Beklenti

The mathematics of uncertainty

Bir rastgele değişkenin beklentisi, uzun vadeli ortalamasıdır: deneyi sonsuza kadar tekrarlayıp sonuçların ortalamasını alsaydın yakınsayacağın değer. Olası değerlerin ağırlıklı ortalamasıdır; her biri ne kadar olası olduğuna göre ağırlıklandırılır:

OKF'yi bir cetvel boyunca yerleştirilmiş ağırlıklar kümesi olarak düşün; E[X], denge noktasıdır. X'in gerçekten alabileceği bir değer olmak zorunda değildir. Adil bir zar 3.5'e ortalanır, ki bu hiçbir yüzün göstermediği bir değerdir.

Binlerce kez oynadığınız bir slot makinesi düşünün. Herhangi bir çekişte büyük kazanabilir veya jetonunuzu kaybedebilirsiniz, ancak makinenin oyun başına sabit bir uzun vadeli ortalama ödemesi vardır ve bu sayı E[X] değeridir. Tek bir çevirme hiçbir zaman tam üzerine düşmese bile, oyunlar biriktikçe ortalamanızın yaklaştığı sabit değer budur.

Bunun ML'deki yeriEğitim, bir beklenen kaybı E_D[L(θ)], yani veri dağılımı üzerindeki ortalama kaybı en aza indirir. O beklentiyi tam olarak hesaplayamayız, bu yüzden onu sonlu bir örnek (eğitim kümesi) üzerindeki bir ortalamayla ve her gradyan adımı için bir mini-grup üzerindeki ortalamayla yaklaşıklarız. Bir grup üzerindeki ortalama gradyanın, gerçek gradyanın yansız bir tahmincisi olmasının nedeni beklentinin…
▶ Beklenti
← Rastgele DeğişkenlerVaryans →