Векторы в Rⁿ — Линейная алгебра

Геометрия и алгебра линейных отображений, векторов и матриц

Вектор носит две шляпы одновременно. Численно это просто упорядоченный список. [3, 1] означает «сначала 3, потом 1», и порядок важен: [3, 1] — не то же, что [1, 3]. Геометрически этот же список — стрелка: начните в начале координат, пройдите 3 вправо и 1 вверх, и кончик окажется в точке, которую вектор называет.

Всё в линейной алгебре построено из этого одного объекта, поэтому полезно свободно переключаться между двумя картинками: вектор — это список координат и стрелка в пространстве, и это одно и то же.

Представьте себе дрон доставки, покидающий склад. Весь его путь можно записать в виде одной стрелки: [3, 4] означает «пролететь 3 квартала на восток, затем подняться на 4 этажа вверх», и конец этой стрелки находится точно там, куда доставляется посылка. Порядок позиций — это инструкции маршрута — сначала на восток, затем вверх — так что список и траектория полета — это два названия одного и того же пути.

Где это встречается в MLВекторы — сырой материал каждой модели. Слово эмбеддинг — это вектор в R³⁰⁰⁰ (или больше); веса, питающие один нейрон, образуют вектор; градиент, за которым следует обучение, — вектор, указывающий вниз в пространстве весов. «Добавление шага градиента к весам» — это векторное сложение: w ← w − η·g проходит одну стрелку (веса) вдоль другой (масштабированного градиента).