Kwadratische vormen

Meetkunde en algebra van lineaire afbeeldingen, vectoren en matrices

Een kwadratische vorm xᵀAx neemt een vector en geeft één enkel getal terug dat kwadratisch varieert in x, de matrixversie van ax². Naarmate x over alle richtingen loopt, tekent dit getal een oppervlak uit, en de matrix A (symmetrisch genomen) bepaalt de vorm van dat oppervlak.

Haar eigenwaarden zijn de krommingen langs de eigen-assen, en hun tekens classificeren het oppervlak volledig. Allemaal positief: een kom die naar boven opent (positief definiet) met een net minimum. Allemaal negatief: een koepel (negatief definiet) met een maximum. Gemengde tekens: een zadel (indefiniet), omhoog in sommige richtingen, omlaag in andere.

Wissel de eigenwaardetekens in de figuur en kijk hoe het oppervlak vervormt tussen kom, koepel en zadel.

Waar dit voorkomt in MLDe kwadratische vorm δᵀHδ is de tweede-orde term in de Taylor-expansie van een verlies; het is de lokale kromming. Een positief-definiete Hessiaan betekent een lokaal minimum (een kom); een indefiniete betekent een zadel, waar hoog-dimensionale verliesoppervlakken vol mee zitten. Deze krommingsanalyse drijft tweede-orde optimizers aan (de methode van Newton) en verklaart waarom training aan…
▶ Kwadratische vormen
← ProjectiesVectoren & meetkunde van Rⁿ →