Транспониране

Геометрия и алгебра на линейни приложения, вектори и матрици

Транспонирането Aᵀ обръща матрицата спрямо нейния главен диагонал: редовете стават колони, а колоните стават редове. Елементът (i, j) разменя мястото си с елемента (j, i). Матрица с размери (m×n) става (n×m).

Представете си електронна таблица, в която редовете са хора, а колоните са месеците, през които всеки е платил. Транспонирането я накланя по нейния диагонал, така че редовете стават колони: сега редовете са месеци, а колоните са хора. Никое число не е изгубено или променено — всяка стойност просто се премества в своята огледална клетка, където етикетът на реда и етикетът на колоната ѝ са разменили местата си.

Матрица, която е равна на своето транспониране, A = Aᵀ, се нарича симетрична: тя е огледално балансирана спрямо диагонала си, като Aᵢⱼ = Aⱼᵢ. Тези матрици са толкова специални, че на тях ще бъдат посветени цели два урока по-нататък.

Къде се използва това в MLТранспонирането е навсякъде в алгоритъма за обратно разпространение (backpropagation). Правият ход (forward pass) умножава по W; обратният ход (backward pass) умножава входящия градиент по Wᵀ, за да го предаде към предходния слой. Оценките при механизма за внимание (attention scores) са QKᵀ. А матрицата на Хесе (Hessian) и ковариационната матрица са симетрични (A = Aᵀ) по дефиниция, което…
▶ Транспониране
← Матрично умножениеСпециални матрици →