ベイズの定理
不確実性の数学
しばしば条件付きの一方の方向を知っているが他方を求めたい。医療検査はP(positive | disease)を教えるが、患者はP(disease | positive)を知りたい。ベイズの定理が条件付き確率を反転させる橋です。
前のレッスンからまっすぐ導かれる。乗法定理はP(A∩B)を2通りで与える、P(A|B)P(B)とP(B|A)P(A)として。それらを等しいと置きP(B)で割る。3つのピースにはMLで至る所で会う名前がある：P(A)は事前（証拠の前の信念）、P(B|A)は尤度（Aが証拠をどれだけうまく説明するか）、P(A|B)は事後（更新された信念）です。
底のP(B)は通常Bが起き得るすべての方法にわたって分割して計算される、全確率の法則です：
機械学習における位置づけベイズの定理は確率的MLのエンジンです。ベイズ推論はパラメータの事前をデータが与えられた事後に更新する：P(θ | data) ∝ P(data | θ)·P(θ)。最尤訓練は事前が平坦な特別ケースで、事前を加えることがまさにL2正則化がすること（重みのガウス事前）。ベイズニューラルネットの「事後予測」全体がこの公式のスケール適用です。
▶ ベイズの定理