Teorema lui Bayes

Matematica incertitudinii

Adesea cunoști o direcție a unei probabilități condiționate, dar vrei cealaltă. Un test medical îți spune P(positive | disease), dar pacientul vrea P(disease | positive). Teorema lui Bayes este puntea care inversează o probabilitate condiționată.

Reiese direct din lecția trecută. Regula înmulțirii oferă P(A∩B) în două moduri, ca P(A|B)P(B) și ca P(B|A)P(A). Egalați-le și împărțiți la P(B). Cele trei părți au nume pe care le veți întâlni peste tot în ML: P(A) este probabilitatea a priori (convingerea înainte de dovezi), P(B|A) este verosimilitatea (cât de bine explică A dovezile), iar P(A|B) este probabilitatea a posteriori (convingerea actualizată).

Numitorul P(B) este de obicei calculat împărțind prin toate modurile în care B se poate produce, legea probabilității totale:

Unde se regăsește în MLTeorema lui Bayes este motorul ML-ului probabilistic. Inferența bayesiană actualizează o probabilitate a priori asupra parametrilor într-o probabilitate a posteriori, date fiind datele: P(θ | data) ∝ P(data | θ)·P(θ). Antrenarea prin verosimilitate maximă este cazul special în care probabilitatea a priori este plată, iar adăugarea unei probabilități a priori este exact ceea ce face regularizarea…
▶ Teorema lui Bayes
← Probabilitate CondiționatăIndependență →