Matrices Especiales

Geometría y álgebra de aplicaciones lineales, vectores y matrices

Algunas matrices aparecen tan a menudo con una geometría tan limpia que merecen nombres. Reconocerlas de inmediato ahorrará un enorme esfuerzo.

La matriz identidad I tiene 1s en la diagonal y 0s en todas las demás posiciones. Es el "haz nada" mapeo: Ix = x para cada vector. Una matriz diagonal tiene entradas no nulas solo en la diagonal; estira cada eje independientemente, con la entrada dᵢ escalando la coordenada i-ésima y sin mezcla.

Piensa en una mesa de mezclas de sonido. La matriz identidad I es cada deslizador estacionado en 1: la señal pasa intacta, exactamente "no hacer nada". Una matriz diagonal es un conjunto de deslizadores de volumen independientes — cada uno aumenta o recorta un solo canal por sí mismo, sin que ningún canal interfiera jamás con otro.

Dónde aparece en el MLLos mapas ortogonales mantienen las señales bien escaladas. Inicialización ortogonal comienza una capa como un mapeo preservador de longitudes, para que las activaciones y gradientes no exploten ni se desvanecan a medida que pasan por muchas capas. Las matrices diagonales aparecen como escalas por características en normalización por lotes, y la identidad es el eje vertebral de una conexión…
▶ Matrices Especiales
← TranspuestaAx = b: Geometría →