Phân phối đồng thời — Xác suất · Mathematics for Machine Learning

Cho đến giờ, mỗi biến ngẫu nhiên tồn tại đơn lẻ. Nhưng những câu hỏi thú vị lại nằm ở mối quan hệ: chiều cao và cân nặng, một bức ảnh và nhãn của nó. Phân phối đồng thời p(x, y) cho biết xác suất của mọi cặp giá trị cùng lúc. Đó là mô tả đầy đủ về cách hai (hoặc nhiều) biến hành xử cùng nhau.

Với các biến rời rạc, hãy hình dung một lưới: các hàng là giá trị của X, các cột là giá trị của Y, và mỗi ô chứa xác suất của tổ hợp đó. Mọi ô đều không âm và có tổng bằng 1, lại chính là các tiên đề, lần này ở dạng hai chiều. Với các biến liên tục, đó là mật độ f(x, y) và xác suất là thể tích dưới mặt cong 2 chiều.

Hãy tưởng tượng một bảng hai chiều gồm những người được sắp xếp theo chiều cao và cân nặng cùng một lúc: thấp và nhẹ ở một ô, cao và nặng ở một ô khác và một con số trong mỗi ô cho biết mức độ phổ biến của việc ghép đôi đó. Toàn bộ mạng lưới các cặp đôi đó là phân phối chung p(x, y) — nó mô tả chiều cao và cân nặng cùng nhau, không phải từng cái một. Điền vào mọi ô, làm cho chúng không âm và thêm vào 1, và bạn đã nắm bắt được bức tranh hoàn chỉnh về cách hai đặc điểm di chuyển cùng nhau.

Vị trí của nó trong MLHọc có giám sát là mô hình hóa một phân phối p(x, y) trên đầu vào và nhãn, hoặc một phần của nó. Các mô hình sinh học toàn bộ phân phối đồng thời p(x, y) và có thể tổng hợp dữ liệu mới; các mô hình phân biệt chỉ học phân phối có điều kiện p(y | x) cần thiết để dự đoán. Toàn bộ khác biệt giữa mô hình sinh và mô hình phân biệt nằm ở chỗ bạn cần mô hình hóa bao nhiêu phần của phân phối đồng thời.