Διασταυρούμενη Εντροπία

Τα μαθηματικά της αβεβαιότητας

Υποθέστε ότι η πραγματικότητα είναι η κατανομή p, αλλά κωδικοποιείτε τα αποτελέσματα χρησιμοποιώντας ένα διαφορετικό μοντέλο q. Η διασταυρούμενη εντροπία είναι η μέση έκπληξη που πληρώνετε στην πραγματικότητα: η έκπληξη που μετράται από το μοντέλο σας q, αλλά σταθμίζεται ως προς το πόσο συχνά συμβαίνουν πραγματικά τα ενδεχόμενα υπό την p:

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Διασταυρούμενη Εντροπία
← ΕντροπίαΑπόκλιση KL →