Entropia krzyżowa

Matematyka niepewności

Wyobraź sobie, że prawdziwym modelem jest faktyczny rozkład postaci p, a Ty dla kodowania używasz modelu wyliczonego przez q. Entropia krzyżowa obrazuje wyliczone z niego „zaskoczenie”, za które będziesz musiał zapłacić na samym końcu. Szok wyliczony według twojego subiektywnego zapisu w oparciu o q zderzy się tam bowiem z obiektywną naturą prawdopodobieństwa zjawisk ujętą przez bezwzględne reguły naturalnego p:

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Entropia krzyżowa
← EntropiaDywergencja KL →