Teorema de Bayes

A matemática da incerteza

Muitas vezes você conhece uma direção de uma condicional, mas quer a outra. Um teste médico informa P(positive | disease), mas o paciente quer saber P(disease | positive). O teorema de Bayes é a ponte que inverte uma probabilidade condicional.

Ele decorre diretamente da lição anterior. A regra da multiplicação dá P(A∩B) de duas maneiras: como P(A|B)P(B) e como P(B|A)P(A). Iguale as duas e divida por P(B). As três peças têm nomes que você encontrará por toda parte em ML: P(A) é o prior (a crença antes da evidência), P(B|A) é a verossimilhança (quão bem A explica a evidência) e P(A|B) é o posterior (a crença atualizada).

O denominador P(B) costuma ser calculado repartindo-o entre todas as maneiras de B ocorrer, pela lei da probabilidade total:

Onde isso aparece no MLO teorema de Bayes é o motor do ML probabilístico. A inferência bayesiana atualiza um prior sobre os parâmetros num posterior, dados os dados: P(θ | data) ∝ P(data | θ)·P(θ). O treinamento por máxima verossimilhança é o caso especial em que o prior é plano, e acrescentar um prior é exatamente o que a regularização L2 faz (um prior gaussiano sobre os pesos). Todo o "posterior preditivo" de uma…

▶ Teorema de Bayes

← Probabilidade Condicional Independência →