Ax = b: Geometria

Geometria i algebra odwzorowań liniowych, wektorów i macierzy

Układ równań liniowych Ax = b leży u podstaw algebry liniowej. Zadaje on pytanie: mając transformację A i wektor docelowy b, jaki wektor wejściowy x w ten cel trafia? Odczytaj to geometrycznie, a to ile będzie rozwiązań stanie się jasne, zanim cokolwiek policzysz.

Można na to spojrzeć z dwóch stron. Obraz wierszowy: każde równanie wyznacza prostą (w przestrzeni 2D) lub płaszczyznę (w 3D), a rozwiązaniem jest punkt, w którym wszystkie one się przecinają. Obraz kolumnowy: wektor b musi dać się wyrazić jako kombinacja liniowa kolumn macierzy A, przy czym wektor x kryje w sobie wagi tej kombinacji.

Geometrycznie mamy tu do czynienia z trzema sytuacjami. Proste przecinają się w jednym punkcie (jednoznaczne rozwiązanie); są równoległe, ale niepokrywające się (brak rozwiązania, „cele” się rozmijają); albo są tą samą prostą (nieskończenie wiele rozwiązań). Złap i poprzesuwaj proste na rysunku, aby zaobserwować te trzy przypadki.

Gdzie to występuje w MLRzeczywiste układy uczące się są z reguły przeokreślone: mają znacznie więcej równań (danych uczących) niż niewiadomych (parametrów wagi), stąd ścisłe rozwiązanie równania Ax = b nie istnieje tu prawie nigdy. To bezpośredni powód wykorzystywania metody najmniejszych kwadratów (o której powiemy wkrótce). Skoro nie trafisz precyzyjnie w b, znajdujesz takie x, które daje wynik najbliższy prawdzie.…
▶ Ax = b: Geometria
← Macierze szczególneEliminacja Gaussa →