Matematyka niepewności
Rozkład Gaussa (normalny) pojawia się w uczeniu maszynowym częściej niż niemal każdy inny rozkład. Jest to gładki, symetryczny dzwon, który powstaje naturalnie, gdy sumuje się wiele małych, niezależnych efektów. Parametryzują go dwie liczby: średnia μ (gdzie znajduje się szczyt) oraz wariancja σ² (która określa szerokość rozkładu).
Wzór ten jest prostszy, niż się wydaje. Jego rdzeń to exp(−(x−μ)²/2σ²): kwadrat odległości od średniej z minusem, dzięki czemu gęstość szybko maleje wraz z oddalaniem się od μ. Reszta wzoru to stała normalizacyjna, która sprawia, że całkowite pole pod krzywą wynosi 1.
Przesuwając μ, zmieniasz położenie dzwonu, a regulując σ, zmieniasz jego szerokość. Niskie σ daje wysoki, wąski szczyt, oznaczający dużą pewność; wysokie σ rozkłada prawdopodobieństwo płasko na szerokim zakresie.