Математиката на несигурността
KL дивергенцията (Kullback-Leibler divergence) измерва колко далеч е едно разпределение q от друго разпределение p: това е допълнителната изненада, която изпитвате, когато моделирате реалността p с погрешно разпределение q. Това е разликата (празнината) в кръстосаната ентропия:
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ KL дивергенция (Kullback-Leibler)