Teorema de Bayes

Las matemáticas de la incertidumbre

A menudo conoces una dirección condicional pero deseas la otra. Una prueba médica te dice P(positive | disease), pero el paciente quiere P(disease | positive). El teorema de Bayes es el puente que invierte una probabilidad condicional.

Se desprende directamente de la lección anterior. La regla de multiplicación da P(A∩B) de dos formas, como P(A|B)P(B) y como P(B|A)P(A). Iguala las ecuaciones y divide por P(B). Los tres elementos tienen nombres que encontrarás en todas partes en ML: P(A) es el prior (creencia antes de la evidencia), P(B|A) es la likelihood (cómo A explica la evidencia) y P(A|B) es el posterior (creencia actualizada).

El denominador P(B) se calcula generalmente dividiendo en todas las formas posibles de que B ocurra, la regla de la probabilidad total:

Dónde aparece en el MLEl teorema de Bayes es el motor de ML probabilístico. La inferencia bayesiana actualiza una prior sobre parámetros a un posterior dado los datos: P(θ | data) ∝ P(data | θ)·P(θ). El entrenamiento por máxima verosimilitud es el caso especial donde la prior es plana, y añadir una prior es exactamente lo que hace la regularización L2 (una prior gaussiana en los pesos). La "predicción posterior"…
▶ Teorema de Bayes
← Probabilidad CondicionalIndependencia →