Ax = b: Hình học

Hình học và đại số của các ứng dụng tuyến tính, vectơ và ma trận

Phương trình Ax = b là phép tính trung tâm của đại số tuyến tính: cho một phép biến đổi A và một mục tiêu b, đầu vào x nào đạt đúng mục tiêu? Hãy đọc nó theo hình học, và tính chất của lời giải sẽ lộ ra ngay cả trước khi bạn tính toán gì.

Có hai cách hình dung nó. Cách nhìn theo hàng: mỗi phương trình là một đường thẳng (trong 2 chiều) hoặc một mặt phẳng (trong 3 chiều), và nghiệm là nơi tất cả chúng giao nhau. Cách nhìn theo cột: b phải là một tổ hợp tuyến tính của các cột của A, và x chứa các trọng số của tổ hợp đó.

Về mặt hình học có đúng ba trường hợp. Các đường thẳng cắt nhau tại một điểm (nghiệm duy nhất); chúng song song và phân biệt (vô nghiệm, không bao giờ chạm tới mục tiêu); hoặc chúng là cùng một đường thẳng (vô số nghiệm). Hãy kéo các đường trong hình qua cả ba trường hợp.

Vị trí của nó trong MLCác hệ ML thực tế thường được xác định thừa: nhiều phương trình (điểm dữ liệu) hơn hẳn số ẩn (tham số), nên Ax = b hầu như không bao giờ có nghiệm chính xác. Đó chính là toàn bộ lý do của bình phương tối thiểu (bài học sau). Khi không thể đạt đúng b, hãy tìm x đạt gần nhất. Hồi quy tuyến tính đúng là tình huống "không có nghiệm chính xác, vậy hãy tối thiểu hóa sai số".
▶ Ax = b: Hình học
← Các ma trận đặc biệtKhử Gauss →