Wielowymiarowy Gauss

Matematyka niepewności

Prawdziwe dane rzadko są jedną liczbą. To wektor. Wielowymiarowy Gauss N(μ, Σ) rozszerza krzywą dzwonową na wiele wymiarów. Średnia staje się wektorem μ ∈ ℝⁿ (środek chmury), a wariancja staje się macierzą kowariancji Σ (kształt i nachylenie chmury).

Wykładnik uogólnia z-score: (x−μ)ᵀΣ⁻¹(x−μ) to kwadrat odległości Mahalanobisa, odległość od średniej mierzona w jednostkach własnego rozproszenia danych. Punkty równej gęstości tworzą elipsy (elipsoidy w wyższych wymiarach); macierz kowariancji ustala ich rozmiar, rozciągnięcie i nachylenie.

Przekątna macierzy Σ zawiera wariancje na poszczególnych współrzędnych, a wartości poza przekątną to kowariancje mówiące o ich wzajemnej korelacji. Jeśli macierz Σ jest diagonalna, daje to elipsy równoległe do osi układu (zmienne są nieskorelowane); elementy poza przekątną sprawiają z kolei, że elipsy ulegają pochyleniu. Macierz Σ musi bezwzględnie być dodatnio półokreślona, ponieważ wariancja w żadnym z kierunków nie może być ujemna.

Gdzie to występuje w MLKiedy proces gaussowski przeprowadza regresję z uwzględnieniem przedziałów niepewności (słupki błędu), definiuje w istocie wielowymiarowy rozkład Gaussa na zbiorze funkcji. Rozkład a priori w przestrzeni ukrytej dla struktury typu VAE jest zazwyczaj standardowym w swej istocie modelem o profilu normalnym N(0, I). Z kolei u podstaw modeli zmiennych ukrytych czy przy rzutowaniu stopnia…
▶ Wielowymiarowy Gauss
← Kluczowe rozkłady ciągłeRozkłady łączne →