Съвместни разпределения

Математиката на несигурността

Досега всяка случайна величина съществуваше самостоятелно. Но по-интересните въпроси са свързани с взаимоотношения: височина и тегло, изображение и неговият етикет. Съвместното разпределение (joint distribution) p(x, y) дава вероятността за всяка двойка стойности едновременно. Това е пълното описание на това как две (или повече) величини се държат заедно.

За дискретни величини си представете решетка (таблица): редовете са стойностите на X, колоните са стойностите на Y, а всяка клетка съдържа вероятността за дадената комбинация. Стойностите във всички клетки са неотрицателни и сумата им е 1 – същите аксиоми, но вече в две измерения. За непрекъснати величини това е функция на плътност f(x, y), а вероятностите представляват обем под 2-D повърхност.

Представете си двупосочна таблица от хора, сортирани едновременно по височина и тегло: нисък и лек в една клетка, висок и тежък в друга, и число във всяка клетка, казващо колко често срещано е това съчетание. Цялата тази решетка от съчетания е съвместното разпределение p(x, y) — то описва височината и теглото заедно, а не едно по едно. Попълнете всяка клетка, направете ги неотрицателни и със сбор 1, и сте уловили пълната картина на това как двете черти пътуват заедно.

Къде се използва това в MLОбучението с учител (supervised learning) представлява моделиране на съвместното разпределение p(x, y) на входни данни и етикети или на част от него. Генеративните (Generative) модели научават пълната връзка p(x, y) и могат да синтезират нови данни; дискриминативните (Discriminative) модели научават само условното разпределение p(y | x), което е достатъчно за прогнозиране. Цялото разграничение…
▶ Съвместни разпределения
← Многомерен ГаусМаргинални разпределения →