Formy kwadratowe

Geometria i algebra odwzorowań liniowych, wektorów i macierzy

Jako że forma kwadratowa xᵀAx przyjmuje wektor i zwraca pojedynczą liczbę, która zmienia się kwadratowo w zależności od x, macierzyowej wersji ax². Gdy x przechodzi przez wszystkie kierunki, ta liczba tworzy powierzchnię, a macierz A (biorąc ją symetryczną) decyduje o kształcie tej powierzchni.

Jej wartości własne są krzywimi wzdłuż osi własnych, a ich znaki klasyfikują kształt powierzchni całkowicie. Wszystkie dodatnie: kocioł otwierający się (definicja dodatnia) z czystym minimum. Wszystkie ujemne: kopuła (definicja ujemna) z maksimum. Różne znaki: siodło, w górę w pewnych kierunkach, w dół w innych.

Zmień znaki wartości własnych na rysunku i obserwuj, jak powierzchnia przekształca się między kociołem, kopułą a siodłem.

Gdzie to występuje w MLForma kwadratowa δᵀHδ to drugi stopień w rozwinięciu Taylora straconej wartości; jest ona lokalną krzywizną. Dodatnio określony Hessian oznacza lokalne minimum (kocioł); niestabilny oznacza siodło, które powierzchnie strat wysokiej wymiarowości są pełne. Ta analiza krzywizny prowadzi optymalizatorów drugiego rzędu (metoda Newtona) i wyjaśnia, dlaczego trening unika siodł, a nie zatrzymuje się w…
▶ Formy kwadratowe
← ProjekcjeWektory i geometria Rⁿ →