Transpozycja

Geometria i algebra odwzorowań liniowych, wektorów i macierzy

Transpozycja Aᵀ odbija macierz względem jej głównej przekątnej: wiersze stają się kolumnami, a kolumny wierszami. Element (i, j) zamienia się miejscami z elementem (j, i). Macierz (m×n) staje się macierzą (n×m).

Wyobraź sobie arkusz kalkulacyjny, w którym wiersze to osoby, a kolumny to miesiące, za które każda z nich zapłaciła. Transponowanie go przechyla całą tabelę wzdłuż jej przekątnej, tak że wiersze stają się kolumnami: teraz wiersze to miesiące, a kolumny to osoby. Żadna liczba nie zostaje utracona ani zmieniona — każda wartość po prostu przesuwa się do swojej lustrzanej komórki, w której jej etykieta wiersza i etykieta kolumny zamieniły się miejscami.

Macierz, która równa się swojej własnej transpozycji, A = Aᵀ, jest symetryczna: zrównoważona lustrzanie względem głównej przekątnej, gdzie Aᵢⱼ = Aⱼᵢ. Te macierze są na tyle ważne, że poświęcono im dwie całe późniejsze lekcje.

Gdzie to występuje w MLTranspozycja jest wszechobecna w propagacji wstecznej. Przejście w przód (forward pass) mnoży przez W; przejście wstecz (backward pass) mnoży napływający gradient przez Wᵀ, by przesłać go do poprzedniej warstwy. Wartości w mechanizmie uwagi (attention scores) oblicza się jako QKᵀ. Ponadto, macierze hesjanu i kowariancji są z konstrukcji symetryczne (A = Aᵀ), co gwarantuje im wspaniałe własności…
▶ Transpozycja
← Mnożenie macierzyMacierze szczególne →