Аксиомы вероятности — Вероятность

Как приписать число «насколько вероятно»? Андрей Колмогоров показал, что вся теория покоится на трёх правилах. Любая другая формула, которую вы используете, — следствие этих.

Словами: вероятности никогда не отрицательны; вероятность того, что что-то случится, ровно 1; для непересекающихся событий вероятности просто складываются. Всё. Вероятность — способ разделить полную массу 1 между исходами.

Представьте себе целый пирог, разрезанный на куски, по одному куску на каждый исход. Ни один кусок не может иметь отрицательный размер (это правило P(A) ≥ 0), и все куски вместе должны заполнять весь пирог, ни больше, ни меньше, что в точности означает P(Ω) = 1. Запрос вероятности события означает просто сложение кусков, которые к нему относятся.

Где это встречается в MLСлой softmax превращает сырые оценки в распределение вероятностей, подчиняющееся этим аксиомам по построению: каждый выход неотрицателен (аксиома 1) и в сумме 1 по классам (аксиома 2). Когда модель сообщает «P(кошка) = 0.7», оставшиеся 0.3 распределены по всем остальным классам — правило дополнения в действии. Всякий раз, перенормируя оценки в вероятности, вы исполняете аксиомы Колмогорова.