Rⁿ의 벡터 — 선형대수학 · Mathematics for Machine Learning

벡터는 한 번에 두 가지 역할을 합니다. 수치적으로 보면 순서가 정해진 리스트입니다. [3, 1]은 «먼저 3, 그다음 1»을 뜻하며, 순서가 중요합니다. [3, 1]은 [1, 3]과 다릅니다. 한편 기하학적으로 보면 같은 리스트가 화살표가 됩니다. 원점에서 출발해 오른쪽으로 3, 위로 1만큼 걸어가면, 끝점이 바로 그 벡터가 가리키는 점에 도달합니다.

선형대수학의 모든 것이 이 하나의 대상으로부터 만들어지므로, 두 그림을 자유롭게 오갈 수 있으면 큰 도움이 됩니다. 벡터는 좌표의 리스트이면서 동시에 공간 속의 화살표이며, 이 둘은 같은 것입니다.

창고를 떠나는 배달 드론을 생각해보세요. 드론의 전체 여정은 하나의 화살표로 쓸 수 있습니다: [3, 4]는 "동쪽으로 3 블록 비행한 다음, 위로 4 층 올라가라"는 의미이며, 그 화살표의 끝이 정확히 소포가 착륙하는 곳입니다. 슬롯의 순서는 경로의 지시사항 — 먼저 동쪽, 그 다음 위로 — 이므로, 목록과 비행 경로는 같은 여정을 부르는 두 이름입니다.

머신러닝에서의 위치벡터는 모든 모델의 원자재입니다. 단어 임베딩은 R³⁰⁰⁰(혹은 그 이상)의 벡터이고, 하나의 뉴런으로 들어가는 가중치도 벡터를 이루며, 학습이 따라가는 그래디언트는 가중치 공간에서 내리막을 가리키는 벡터입니다. «가중치에 그래디언트 스텝을 더한다»는 것이 바로 위에서 본 벡터 덧셈입니다. w ← w − η·g는 한 화살표(가중치)를 다른 화살표(스케일된 그래디언트)를 따라 걷게 하는 것입니다.