Линейные комбинации и линейная оболочка

Геометрия и алгебра линейных отображений, векторов и матриц

Возьмите несколько векторов и два действия: масштабируйте каждый (умножайте на любое число) и складывайте результаты. Любой вектор, который можно построить так, — линейная комбинация исходного набора. Полная совокупность всего достижимого называется линейной оболочкой (span).

Оболочка — центральная идея, поэтому представьте её конкретно. Один ненулевой вектор, масштабируемый как угодно, заметает прямую через начало координат. Два вектора, указывающих в разных направлениях, заметают плоскость. Добавьте третий, выходящий из этой плоскости, — заполните всё 3D-пространство.

Загрузите в блендер два базовых ингредиента — скажем, банановую стрелку и ягодную стрелку. Смузи — это любая смесь, где вы масштабируете каждую базу (больше или меньше ее) и сливаете их вместе; это линейная комбинация. Полное меню всех смузи, которые вы можете смешать из этих баз, — это их span — и если обе базы направлены в совершенно разных направлениях, это меню заполняет всю плоскость вкусов.

Где это встречается в MLОболочка — это в точности «то, что может выразить слой». Линейный слой Wx может производить выходы только в оболочке столбцов W, его столбцовом пространстве. Если это оболочка не покрывает направление, нужное вашим данным, никакой выбор входа его не восстановит; слой структурно слеп к этому направлению. Выбор архитектуры с достаточной шириной отчасти состоит в том, чтобы оболочка была достаточно…
▶ Линейные комбинации и линейная оболочка
← НормыЛинейная независимость и базис →