Vectơ & Hình học của Rⁿ

Phép tính đa biến từ nguyên tắc đầu tiên

Giải tích một biến sống trên một đường thẳng. Học máy thì không. Trọng số của mạng nơ-ron, các vectơ nhúng, gradient: mỗi cái là một điểm trong không gian nhiều chiều, Rⁿ. Tin vui là hình học bạn đã quen từ mặt phẳng R² gần như chuyển sang nguyên vẹn từng chữ. Vectơ vẫn là một mũi tên xuất phát từ gốc tọa độ; độ dài, góc và "hình chiếu lên một vectơ khác" vẫn có ý nghĩa. Chỉ là ta không còn vẽ được nó nữa.

Vectơ v = (v₁, v₂, …, vₙ) là một danh sách số có thứ tự. Bạn có thể đọc nó theo hai cách cùng lúc: như một vị trí (điểm bạn đến) và như một hướng có độ dài (mũi tên đưa bạn tới đó). Cả hai cách đọc đều liên tục quan trọng trong ML.

chuẩn (độ dài) của vectơ đến thẳng từ định lý Pythagoras, chỉ là với nhiều số hạng hơn:

Vị trí của nó trong MLKhi một transformer quyết định một token nên chú ý đến token khác bao nhiêu, nó lấy tích vô hướng của truy vấn và khóa, q·k. Đó cũng chính là phép toán dùng để xếp hạng các láng giềng gần nhất trong một không gian nhúng theo độ tương tự cosin, và cũng là phép toán mà một bộ phân loại tuyến tính dùng để hỏi một điểm rơi về phía nào của w·x + b = 0. Hầu hết những gì được gọi là 'độ tương tự' trong…
▶ Vectơ & Hình học của Rⁿ
← Dạng toàn phươngHàm f: Rⁿ → R →