Геометрия и алгебра на линейни приложения, вектори и матрици
Симетричните матрици (A = Aᵀ) се държат изключително добре и се оказва, че те се срещат много често в машинното обучение. Ковариационни матрици, Хесиани, матрици на Грам: всички те са симетрични. Те идват с гаранция за свойствата си, достатъчно елегантна, че да има собствено име.
Спектралната теорема гласи: всяка реална симетрична матрица има реални собствени стойности и пълен набор от ортогонални собствени вектори. Без комплексни числа, без дефектни случаи, а собствените направления се пресичат под идеални прави ъгли. Винаги можете да я диагонализирате с помощта на ортогонална матрица.
Тъй като Q е ортогонална матрица, Q⁻¹ = Qᵀ, така че разлагането е съставено от завъртане, мащабиране и обратно завъртане. Собствените вектори ви осигуряват перфектна ортонормална координатна система напълно безплатно.