Hàm f: Rⁿ → R

Phép tính đa biến từ nguyên tắc đầu tiên

Hàm f: Rⁿ → R nhận vào một vectơ và trả về một số. Ví dụ tiêu biểu trong học máy là hàm mất mát: nạp vào toàn bộ trọng số của mạng, nhận lại một con số cho biết mạng đang hoạt động tệ đến mức nào. Toàn bộ quá trình huấn luyện là một cuộc truy lùng điểm thấp nhất của hàm này.

Với hai đầu vào, bạn thực sự có thể hình dung được nó: z = f(x, y) là một mặt cong, một địa hình gồm những ngọn đồi và thung lũng nhô lên phía trên mặt phẳng xy. Chiều cao tại mỗi (x, y) là giá trị của hàm.

Hãy tưởng tượng không khí trong phòng: đứng ở bất kỳ vị trí nào và nhiệt kế sẽ đọc chính xác một nhiệt độ. Đó là một chức năng f: R² → R được ngụy trang: một vị trí (x, y) đi vào và một con số duy nhất (hơi ấm ở đó) thoát ra. Cả căn phòng trở thành một khung cảnh gồm những mảng ấm áp và mát mẻ, cao hơn gần bộ tản nhiệt, thấp hơn cạnh cửa sổ.

Vị trí của nó trong MLKhi bạn nhìn đường cong mất mát đi xuống trong quá trình huấn luyện, bạn đang quan sát một bước đi trên một trong những mặt cong này. Hàm mất mát L(w₁, …, wₙ) là một hàm Rⁿ → R trên không gian trọng số, với n tính bằng hàng triệu hoặc hàng tỷ, và đường cong trên màn hình của bạn chỉ là cái bóng một chiều của bước đi đó. Những bức tranh 'cực tiểu phẳng so với cực tiểu nhọn' mà các nhà nghiên cứu…
▶ Hàm f: Rⁿ → R
← Vectơ & Hình học của RⁿHàm f: Rⁿ → Rᵐ →