Dywergencja KL

Matematyka niepewności

Dywergencja KL mierzy, jak bardzo jeden rozkład q różni się od rozkładu p: to dodatkowe zaskoczenie, którym płacisz za modelowanie rzeczywistości p błędnym rozkładem q. Stanowi ona matematyczną lukę skrytą we wzorze na entropię krzyżową:

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Dywergencja KL
← Entropia krzyżowaInformacja wzajemna →