Ax = b: Geometria

Geometria e algebra di applicazioni lineari, vettori e matrici

L'equazione Ax = b è il calcolo centrale dell'algebra lineare: data una trasformazione A e un bersaglio b, quale input x finisce sul bersaglio? Leggila come geometria e il carattere della risposta diventa visibile ancora prima di calcolare qualunque cosa.

Ci sono due modi di immaginarla. L'immagine per righe: ciascuna equazione è una retta (in due dimensioni) o un piano (in tre dimensioni), e la soluzione è il punto in cui si intersecano tutte. L'immagine per colonne: b deve essere una combinazione lineare delle colonne di A, e x contiene i pesi di quella combinazione.

Dal punto di vista geometrico i casi sono esattamente tre. Le rette si incrociano in un punto (soluzione unica); sono parallele e distinte (nessuna soluzione: i bersagli non si incontrano mai); oppure sono la stessa retta (infinite soluzioni). Trascina le rette nella figura attraverso tutti e tre i casi.

Dove si trova nel MLI sistemi reali del machine learning sono di solito sovradeterminati: hanno molte più equazioni (i punti dati) che incognite (i parametri), perciò un'equazione esatta Ax = b quasi mai ammette soluzione. È questa l'intera ragion d'essere dei minimi quadrati (una lezione successiva): quando non puoi colpire b esattamente, cerchi la x che gli si avvicina di più. La regressione lineare è esattamente…
▶ Ax = b: Geometria
← Matrici SpecialiEliminazione di Gauss →