불확실성의 수학
상호 정보량은 한 변수를 아는 것이 다른 변수에 대해 얼마나 많은 것을 알려 주는지를 측정합니다. Y를 관찰한 뒤 X에 대한 불확실성이 줄어드는 양이지요. 이는 진짜 결합 분포와 «독립이라고 가정한» 주변 분포의 곱 사이의 KL 발산입니다:
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ 상호 정보량