Основни дискретни разпределения

Математиката на несигурността

Няколко наименовани разпределения покриват повечето ситуации с дискретни величини в машинното обучение. Всяко от тях е готова PMF с предварително известни математическо очакване и дисперсия, така че просто избирате подходящото, вместо да извеждате формулите от нулата.

Разпределението на Бернули(p) моделира единичен опит с два изхода: успех (1) с вероятност p и неуспех (0) с вероятност 1−p. Това е основният градивен елемент, от който са съставени много други дискретни разпределения.

Две ежедневни преброявания показват основните разпределения. Хвърлете монета 10 пъти и отчетете езитата: това преброяване е биномно, сума от 10 независими да/не опита. Сега пребройте телефонните обаждания, които бюро за помощ получава за един час: това преброяване е на Поасон, законът за редки събития, разпръснати във времето, с една единствена честота λ, която служи едновременно като негова средна стойност и дисперсия.

Къде се използва това в MLКогато избирате функция на загубата за класификация, на практика избирате едно от тези разпределения. Бинарната кръстосана ентропия (Binary Cross-Entropy) е отрицателното логаритмично правдоподобие на разпределението на Бернули: тя сравнява скаларната вероятност от модела спрямо етикет 0 или 1. Многокласовата кръстосана ентропия (Multiclass Cross-Entropy) е отрицателното логаритмично…
▶ Основни дискретни разпределения
← ДисперсияPDF и CDF →