Случайные величины — Вероятность

Исходы вроде «орёл» или «третья красная карта» неудобно для арифметики. Случайная величина исправляет: это правило, приписывающее число каждому исходу. Формально X: Ω → ℝ. Подбросьте три монеты и пусть X считает орлы. Теперь каждый исход отображается в 0, 1, 2 или 3, и можно усреднять, возводить в квадрат, складывать.

Карнавальное колесо останавливается на цветных секторах, и каждый цвет выплачивает разную сумму: число, прикрепленное к каждому исходу. Это число — случайная величина X, наличные, которые вы выигрываете за одно вращение. Перечисление того, как часто выпадает каждая выплата, p(x) = P(X = x), показывает весь разброс вашего приза.

Для дискретной случайной величины функция вероятностей p(x) = P(X = x) перечисляет вероятность каждого значения. Она неотрицательна и сумма по носителю равна 1 — аксиомы, переписанные на числах.

Где это встречается в MLМетка Y — случайная величина, и предсказание модели тоже. argmax softmax, предсказанный класс, — случайная величина, отображающая выходное распределение модели в один индекс. Сэмплирование из языковой модели — извлечение случайной величины (следующий токен) из её PMF по словарю.