투영은 «주어진 부분공간 안에서 b에 가장 가까운 점은 무엇인가?»라는 물음에 답합니다. 바닥 위에 떠 있는 점을 떠올려 보세요. 그 투영은 점 바로 아래 바닥에 놓인 점, 곧 수직선의 발입니다. 이는 부분공간 안에서 얻을 수 있는 b의 가장 좋은 근사입니다.
벡터 b를 단일 방향 a에 투영하려면, 그 방향을 따라 b가 얼마나 놓여 있는지(내적)만큼 a를 스케일하고, a 자신의 길이 제곱으로 정규화합니다:
그림에서 b를 드래그해 보세요. 그 그림자가 직선 a를 따라 미끄러지며 항상 가장 가까운 점에 닿고, 점선으로 표시된 오차 선분이 직선과 직각으로 만나는 것을 볼 수 있습니다.
머신러닝에서의 위치투영은 어텐션과 잔차 스트림 뒤에 자리한 기하학입니다. 최소제곱 회귀는 목표를 모델의 열 공간에 투영합니다. 트랜스포머의 잔차 스트림은 투영을 통해 거듭 읽히고 쓰이며, 그람–슈미트식 직교화가 학습된 방향들을 서로 구별되게 유지합니다. «부분공간 안에서 가장 가까운 점»은 모델이 끊임없이 수행하는 움직임입니다.