Собственные векторы и собственные значения

Геометрия и алгебра линейных отображений, векторов и матриц

Большинство векторов сбиваются с курса при действии матрицы: они и поворачиваются, и растягиваются. Но несколько особых направлений инвариантны. Матрица только растягивает или переворачивает их, не поворачивая. Это собственные векторы, а коэффициент растяжения — собственное значение.

Прочтите вслух: применение A к собственному вектору v даёт то же направление, лишь масштабированное на λ. Если λ = 2, направление удваивается; если λ = −1, переворачивается; если λ = 0.5, сжимается вдвое. Собственные векторы образуют скелет преобразования, оси, вдоль которых оно действует проще всего.

Перетащите вектор на фигуре. Большинство направлений видимо поворачиваются под A; только вдоль собственных векторов выход остаётся параллельным входу.

Где это встречается в MLСобственные векторы — направления, вдоль которых процесс естественно движется. В PCA собственные векторы ковариационной матрицы — оси наибольшей дисперсии, направления, где данные реально разбросаны. В оптимизации собственные значения гессиана описывают кривизну функции потерь в каждом направлении: большие — крутые стены, малые — плоские долины, а их отношение (число обусловленности) управляет…
▶ Собственные векторы и собственные значения
← Обратная матрицаДиагонализация →