Merkezi limit teoremi (Central Limit Theorem) nedir? Pratikte neden bu kadar önemlidir?

Merkezi limit teoremi, bağımsız ve aynı dağılımdan gelen, sonlu varyansa sahip rastgele değişkenlerin örneklem ortalamasının dağılımının, örneklem büyüdükçe orijinal dağılım ne olursa olsun normal dağılıma yaklaştığını söyler.

X̄ ≈ Normal(μ, σ² / n)     (n yeterince büyükse)
Standart hata (SE) = σ / sqrt(n)

Önemli noktalar

• Orijinal veri çarpık olabilir (gelir, sayfa kalma süresi). Normal olan verinin kendisi değil, ortalamanın örnekleme dağılımıdır.
• Standart hata sqrt(n) ile azalır: hassasiyeti 2 kat artırmak için 4 kat veri gerekir.
• "n ≥ 30" kaba bir kuraldır. Çok çarpık veya ağır kuyruklu dağılımlarda çok daha fazla örnek gerekebilir.
• Sonsuz varyanslı dağılımlarda (örneğin Cauchy) geçerli değildir. Örnekler bağımsız değilse (zaman serisi, kümelenmiş veri) standart hata olduğundan küçük hesaplanır.

Pratikteki önemi

1. Güven aralıkları: X̄ ± 1.96 · SE ile %95 güven aralığı hesaplanabilir.
2. A/B testleri: Dönüşüm oranları ve ortalama gelir gibi metriklerin farkı için z-testi ve t-testi bu teoreme dayanır.
3. Model değerlendirme: Test setindeki doğruluk da bir örneklem ortalamasıdır. 1.000 örnekte %90 doğrulukta standart hata yaklaşık sqrt(0.9·0.1/1000) ≈ 0.0095'tir. Yani yaklaşık ±1.9 puanlık bir belirsizlik vardır. %90.5 ile %90.0 arasındaki fark anlamlı olmayabilir.
4. Mini-batch gradyanı: Mini-batch gradyanı, tam gradyanın gürültülü bir tahminidir ve gürültüsü batch size ile azalır.

import numpy as np
pop = np.random.exponential(scale=2.0, size=1_000_000)       # çok çarpık dağılım
means = [np.random.choice(pop, 50).mean() for _ in range(10_000)]
# means histogramı yaklaşık normaldir; std(means) ≈ pop.std() / sqrt(50)