Phép nhân ma trận

Hình học và đại số của các ứng dụng tuyến tính, vectơ và ma trận

Phép nhân ma trận thoạt nhìn như một quy tắc khó hiểu, nhưng ý nghĩa của nó rất rõ ràng: AB là phép hợp của hai phép biến đổi. Thực hiện B trước, rồi thực hiện A. Tích là ma trận duy nhất gộp cả hai chuyển động làm một.

Để tính một phần tử của AB, hãy lấy một hàng của A nhân vô hướng với một cột của B. Phần tử (i, j) là hàng i của A nhân vô hướng với cột j của B. Đó là toàn bộ thuật toán: tích vô hướng, sắp xếp theo dạng lưới.

Hãy hình dung hai chiếc máy trên một dây chuyền sản xuất. Máy đầu tiên B định hình lại một phần, sau đó máy thứ hai A định hình lại nó. Sản phẩm AB là máy kết hợp đơn thực hiện cả hai bước trong một lần vượt qua — và thứ tự trên dây chuyền là cố định, vì bộ phận phải trải qua B trước A.

Vị trí của nó trong MLGhép các lớp chính là phép nhân ma trận. Xếp chồng hai lớp tuyến tính W₂(W₁x) bằng (W₂W₁)x; các lớp gộp thành một ánh xạ. Trong chú ý (attention), điểm số đến từ tích QKᵀ và đầu ra đến từ việc nhân các trọng số đó với V. Mỗi lượt truyền xuôi là một chuỗi các tích như vậy, và quy tắc hình dạng chính là thứ mà GPU được sinh ra để xử lý.
▶ Phép nhân ma trận
← Ma trận như ánh xạ tuyến tínhChuyển vị →