Transpose

Geometri dan aljabar pemetaan linear, vektor, dan matriks

Transpose Aᵀ membalik matriks terhadap diagonal utamanya: baris menjadi kolom dan kolom menjadi baris. Entri (i, j) bertukar dengan entri (j, i). Matriks (m×n) menjadi (n×m).

Bayangkan sebuah spreadsheet di mana baris adalah orang-orang dan kolom adalah bulan-bulan mereka masing-masing membayar. Transposing memiringkan seluruh tabel pada diagonalnya sehingga baris menjadi kolom: sekarang baris adalah bulan-bulan dan kolom adalah orang-orang. Tidak ada angka yang hilang atau diubah — setiap nilai hanya berpindah ke sel cerminnya, di mana label baris dan label kolomnya telah bertukar tempat.

Matriks yang sama dengan transposenya sendiri, A = Aᵀ, disebut simetris: seimbang seperti cermin terhadap diagonal, dengan Aᵢⱼ = Aⱼᵢ. Matriks-matriks ini cukup khusus sehingga dua pelajaran berikutnya nanti didedikasikan untuk mereka.

Di mana ini berlaku dalam MLTranspose ada di mana-mana dalam backprop. Forward pass mengalikan dengan W; backward pass mengalikan gradien masuk dengan Wᵀ untuk mengirimkannya ke layer sebelumnya. Skor attention adalah QKᵀ. Dan matriks Hessian serta kovarians simetris (A = Aᵀ) berdasarkan konstruksi, yang persis menjamin struktur eigen yang rapi dalam pelajaran berikutnya.
▶ Transpose
← Perkalian MatriksMatriks Khusus →