Ax = b: meetkunde

Meetkunde en algebra van lineaire afbeeldingen, vectoren en matrices

De vergelijking Ax = b is de centrale berekening van de lineaire algebra: gegeven een transformatie A en een doel b, welke input x landt op het doel? Lees het als meetkunde en het karakter van het antwoord wordt zichtbaar voordat je iets berekent.

Er zijn twee manieren om het je voor te stellen. Het rijbeeld: elke vergelijking is een lijn (in 2-D) of een vlak (in 3-D), en de oplossing is waar ze allemaal snijden. Het kolombeeld: b moet een lineaire combinatie van de kolommen van A zijn, en x bevat de gewichten van de combinatie.

Meetkundig zijn er precies drie gevallen. De lijnen kruisen in één punt (een unieke oplossing); ze zijn parallel en verschillend (geen oplossing, de doelen ontmoeten elkaar nooit); of ze zijn dezelfde lijn (oneindig veel oplossingen). Sleep de lijnen in de figuur door alle drie heen.

Waar dit voorkomt in MLEchte ML-systemen zijn meestal overgedetermineerd: veel meer vergelijkingen (datapunten) dan onbekenden (parameters), dus een exacte Ax = b heeft bijna nooit een oplossing. Dat is de hele reden voor kleinste kwadraten (een latere les). Wanneer je b niet exact kunt raken, vind je de x die er het dichtst bij komt. Lineaire regressie is precies deze situatie van "geen exacte oplossing, dus…
▶ Ax = b: meetkunde
← Bijzondere matricesGauss-eliminatie →