Kluczowe rozkłady dyskretne

Matematyka niepewności

Niewielka grupa tak zwanych rozkładów klasycznych obejmuje przeważającą większość scenariuszy ze zmiennymi dyskretnymi w uczeniu maszynowym. Ponieważ każdy z nich stanowi gotowy model ze zdefiniowaną funkcją PMF oraz z góry znanymi wartościami średniej i wariancji, możemy po prostu ich użyć, zamiast za każdym razem wyprowadzać wszystkie miary od zera.

Rozkład Bernoulliego(p) modeluje pojedynczą próbę z dwoma możliwymi wynikami: sukcesem (1) z prawdopodobieństwem p oraz porażką (0) z prawdopodobieństwem 1−p. To podstawowy klocek, z którego zbudowane są inne rozkłady dyskretne.

Dwa codzienne liczenia obrazują czołowe rozkłady. Rzuć monetą 10 razy i podlicz orły: ta liczba to rozkład dwumianowy, suma 10 niezależnych prób tak/nie. Teraz policz telefony, które infolinia otrzymuje w ciągu jednej godziny: ta liczba to rozkład Poissona, prawo dla rzadkich zdarzeń rozrzuconych w czasie, z pojedynczą stopą λ, która służy jednocześnie jako jego średnia i jego wariancja.

Gdzie to występuje w MLWybierając funkcję straty, wybierasz konkretny rozkład probabilistyczny. Binarna entropia krzyżowa to ujemna log-wiarygodność rozkładu Bernoulliego: ocenia pojedyncze prawdopodobieństwo modelu wobec etykiety 0/1. Wieloklasowa entropia krzyżowa to ujemna log-wiarygodność rozkładu kategorycznego, gdzie wyjście softmax jest porównywane z etykietą one-hot. Wybór funkcji straty determinuje założenia o…
▶ Kluczowe rozkłady dyskretne
← WariancjaGęstość i dystrybuanta →