Chuẩn ma trận

Hình học và đại số của các ứng dụng tuyến tính, vectơ và ma trận

Giống như vectơ có độ dài, ma trận cũng có "kích cỡ". Hai thước đo nổi bật nhất, và chúng trả lời những câu hỏi khác nhau: các phần tử lớn đến đâu, so với việc ma trận có thể kéo giãn một vectơ bao nhiêu?

Chuẩn Frobenius coi ma trận như một danh sách số dài và lấy độ dài Euclid của nó: bình phương mọi phần tử, cộng lại, rồi lấy căn bậc hai. Trong khi đó, chuẩn phổ đo độ kéo giãn cực đại, tức hệ số lớn nhất mà A có thể kéo dài bất kỳ vectơ đơn vị nào, và hóa ra nó chính là giá trị suy biến lớn nhất.

Hãy coi ma trận như một bộ khuếch đại đàn guitar: bạn đưa tín hiệu vào và âm thanh phát ra to hơn. Định mức phổ là mức tăng tối đa của bộ khuếch đại, yếu tố lớn nhất giúp nó có thể tăng cường bất kỳ đầu vào nào bạn gửi qua. Xoay núm về mức cài đặt to nhất và tín hiệu đơn vị lớn nhất có thể phát ra chính xác là tiêu chuẩn đó.

Vị trí của nó trong MLChuẩn Frobenius chính là chính quy hóa L2 trên trọng số cho toàn bộ ma trận: phạt ‖W‖_F² giữ cho trọng số nhỏ và mô hình mượt. Chuẩn phổ thúc đẩy chuẩn hóa phổ (spectral normalization), tức chia ma trận trọng số cho giá trị suy biến lớn nhất của nó để giới hạn mức khuếch đại. Điều đó khiến nó thành một bộ ổn định quan trọng trong GAN và một công cụ để áp đặt ràng buộc Lipschitz.
▶ Chuẩn ma trận
← Bình phương tối thiểuPhép chiếu →