Bayesova věta

Matematika nejistoty

Často znáte jeden směr podmíněné pravděpodobnosti, ale chcete ten druhý. Lékařský test vám řekne P(positive | disease), ale pacient chce vědět P(disease | positive). Bayesova věta je most, který podmíněnou pravděpodobnost převrací.

Vyplyne přímo z předchozí lekce. Pravidlo o násobení dává P(A∩B) dvěma způsoby: jako P(A|B)P(B) a jako P(B|A)P(A). Položte je sobě rovné a podělte P(B). Tyto tři části mají názvy, které potkáte všude ve strojovém učení: P(A) je prior (přesvědčení před důkazem), P(B|A) je věrohodnost (likelihood) (jak dobře A vysvětluje důkaz) a P(A|B) je posterior (aktualizované přesvědčení).

Jmenovatel P(B) se obvykle počítá rozložením přes všechny způsoby, jakými může B nastat, což je věta o úplné pravděpodobnosti:

Kde se to v ML objevujeBayesova věta je motorem pravděpodobnostního strojového učení. Bayesovské odvozování aktualizuje apriorní rozdělení parametrů na aposteriorní rozdělení při daných datech: P(θ | data) ∝ P(data | θ)·P(θ). Trénování pomocí maximální věrohodnosti (maximum-likelihood) je speciálním případem, kdy je prior konstantní, a přidání prioru je přesně to, co dělá L2 regularizace (Gaussovský prior na váhy).…
▶ Bayesova věta
← Podmíněná pravděpodobnostNezávislost →