Маргинални разпределения

Математиката на несигурността

При дадено съвместно разпределение p(x, y), да предположим, че ви интересува само X и искате да пренебрегнете Y. Тогава вие маргинализирате: сумирате (или интегрирате) съвместното разпределение по всички стойности на нежеланата величина. Това, което остава, е просто маргиналното разпределение на X.

Името идва от времето на работа с хартиени таблици на вероятностите: събирате стойностите от всеки ред и записвате общата сума в полето (margin). Тези суми по редове дават маргиналното разпределение на едната величина, а сумите по колони – маргиналното разпределение на другата. Маргинализиране означава „интегриране/сумиране по величината, която не ви интересува“.

Вземете тази двупосочна таблица за височина и тегло и да предположим, че ви интересува само височината, пренебрегвайки напълно теглото. Просто събирате всеки ред от съвместното разпределение p(x, y) и записвате общата сума в полето — тази сума по ред е колко често се среща всяка височина независимо от теглото. Четенето само на тези общи суми в полето дава маргиналното разпределение на X, едната променлива, разглеждана сама по себе си.

Къде се използва това в MLМаргинализирането на латентни променливи е едновременно основното изчисление и основното главоболие в генеративното моделиране. Вероятността (likelihood) на данните е p(x) = ∫ p(x, z) dz = ∫ p(x | z) p(z) dz – интеграл по всички възможни скрити променливи z. Този интеграл обикновено е аналитично нерешим (intractable), което е и причината Variational Autoencoders (VAE) да оптимизират изчислимо…
▶ Маргинални разпределения
← Съвместни разпределенияУсловни разпределения →