Условные распределения

Математика неопределённости

Условные распределения — это условная вероятность, поднятая на уровень целых случайных величин. Учитывая, что X = x, как распределена Y? Вы берёте совместное распределение и перенормируете его на маргинальное распределение той величины, которую зафиксировали:

Это тот же приём «приблизить и перенормировать» из Урока 3: зафиксируйте X = x (выберите одну строку совместной таблицы), затем перемасштабируйте эту строку так, чтобы её вероятности в сумме давали 1. Результат — настоящее распределение по Y, по одному для каждого значения x.

Вернемся к таблице рост-вес, но теперь посмотрим на одну-единственную строку — скажем, только на высоких людей — и проигнорируем всех остальных. Числа этой строки сами по себе не складываются в 1, поэтому вы масштабируете их так, чтобы они складывались, и то, что вы получаете, — это то, как распределен вес при условии, что рост высокий. Это и есть условное распределение: зафиксируйте X = x на одной категории, затем перенормируйте этот срез в правильное распределение по Y.

Где это встречается в MLДискриминативная модель — это условное распределение: p(y | x) — именно то, чему учится классификатор или регрессор, распределение метки при заданном входе. Декодер в VAE или диффузионной модели — это условное p(x | z), распределение данных при заданном латентном коде. Обусловливание — это способ, которым генеративные модели направляют вывод: текст-в-изображение — это сэмплирование из p(image |…
▶ Условные распределения
← Маргинальные распределенияКовариация и корреляция →