Bağımsızlık

The mathematics of uncertainty

İki olay, birini bilmek diğeri hakkında sana hiçbir şey söylemiyorsa bağımsızdır. İlk paranın yazı geldiğini öğrenmek, ikincinin olasılıklarını değiştirmez. Resmi olarak bağımsızlık, koşullu olasılığın düz olasılığa eşit olması demektir, P(A|B) = P(A), ki bu da temiz bir teste dönüşür:

Yani bağımsız olaylar için, her ikisinin de gerçekleşme olasılığı sadece çarpımdır. Bu yüzden n adil para atışının hepsinin yazı gelme olasılığı (1/2)ⁿ'dir: atışlar birbiriyle konuşmaz.

Hilesiz bir paranın hafızası yoktur: üst üste beş turadan sonra, bir sonraki atış hala eşit 50/50 şansına sahiptir, çünkü para az önce ne yaptığını hatırlayamaz. Bu "hafızasızlık" tam olarak bağımsızlıktır; her iki atışın birlikte gerçekleşme şansı P(A ∩ B) = P(A) · P(B) çarpımıdır. Aynı zamanda n tane tura serisinin olasılığının (1/2)ⁿ olmasının nedeni de budur.

Bunun ML'deki yeriEtiketli bir veri kümesi üzerinde eğitim yaparken, neredeyse her zaman örneklerin b.b.d., yani bağımsız ve aynı dağılımlı olduğunu varsayarsın. Bu varsayım, veri kümesi üzerindeki bir ortak olabilirliğin bir çarpıma P(data) = Π P(xᵢ) ayrışmasını sağlar, ki bu da bir log-terim toplamına (kayıp) dönüşür. Naive Bayes sınıflandırıcılar daha da ileri gider ve özelliklerin sınıf verildiğinde koşullu…
▶ Bağımsızlık
← Bayes TeoremiRastgele Değişkenler →