Softmax Stabil și Log-Sum-Exp

Calcul multivariat din principii fundamentale

Ultimul strat al unui clasificator produce un vector de scoruri brute numite logits, unul pe clasă. Softmax transformă aceste logits în probabilități: numere care nu sunt niciodată negative și care se adună mereu la 1. Clasa cu cel mai mare logit primește cea mai mare parte din probabilitate, și deoarece formula este construită din exponențiale, chiar și un decalaj mic între logits se poate transforma într-o împărțire dezechilibrată.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Softmax Stabil și Log-Sum-Exp
← Gradienți printr-un strat liniarDiferențe finite și verificarea gradientului →