Многомерный анализ с первых принципов
Последний слой классификатора выдаёт вектор сырых баллов, которые называют логитами, по одному на класс. Softmax превращает эти логиты в вероятности: числа, которые никогда не бывают отрицательными и всегда складываются в 1. Класс с наибольшим логитом получает наибольшую долю вероятности, и поскольку формула построена на экспонентах, даже небольшой разрыв между логитами может обернуться сильно перекошенным распределением.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Устойчивый softmax и log-sum-exp