역행렬 — 선형대수학 · Mathematics for Machine Learning

역행렬 A⁻¹은 A를 되돌리는 변환입니다. A를 적용한 뒤 A⁻¹을 적용하면 모든 벡터가 제자리로 돌아옵니다: A⁻¹A = AA⁻¹ = I. A가 30° 회전시키면 그 역은 30° 되돌리고, A가 길이를 두 배로 늘리면 그 역은 절반으로 줄입니다.

모든 행렬을 되돌릴 수 있는 것은 아닙니다. 역행렬은 A가 풀 랭크일 때, 다시 말해 행렬식이 0이 아닐 때에만 존재합니다. 그 이유는 기하학적입니다. A가 공간을 납작하게 눌러(저랭크 행렬처럼 한 방향을 0으로 붕괴시켜) 정보를 파괴하면, 이를 다시 복원할 방법이 없습니다. 이런 행렬을 특이하다고 합니다.

2×2 행렬에는 외우기 쉬운 닫힌 형태의 공식이 있습니다. 대각 항목을 서로 바꾸고, 비대각 항목의 부호를 뒤집은 다음, 행렬식으로 나누면 됩니다:

머신러닝에서의 위치역행렬은 개념적으로는 핵심이지만 실제 계산에서는 피합니다. 회귀의 정규 방정식은 β = (XᵀX)⁻¹Xᵀy로 표기되지만, 실제 해법은 그 역행렬을 만들지 않습니다. 역행렬을 구하는 일은 비용이 크고 수치적으로 불안정하므로, 시스템을 직접 풉니다. 행렬이 역행렬을 가지는지(풀 랭크인지) 아는 것은 문제가 잘 정의되었는지 아니면 퇴화했는지를 알려 줍니다.