Phân phối Gauss đa biến — Xác suất · Mathematics for Machine Learning

Dữ liệu thực hiếm khi là một con số đơn lẻ. Nó là một vectơ. Phân phối Gauss đa biến N(μ, Σ) mở rộng đường cong hình chuông sang nhiều chiều. Giá trị trung bình trở thành vectơ μ ∈ ℝⁿ (tâm của đám mây điểm), và phương sai trở thành ma trận hiệp phương sai Σ (hình dạng và độ nghiêng của đám mây).

Số mũ tổng quát hóa điểm z: (x−μ)ᵀΣ⁻¹(x−μ) là bình phương khoảng cách Mahalanobis, tức là khoảng cách tới giá trị trung bình được đo theo đơn vị độ phân tán của dữ liệu. Các điểm có cùng mật độ tạo thành các elip (ellipsoid ở chiều cao hơn); ma trận hiệp phương sai quyết định kích thước, độ giãn và độ nghiêng của chúng.

Đường chéo của Σ chứa các phương sai trên từng tọa độ; các phần tử ngoài đường chéo là hiệp phương sai, cho bạn biết các tọa độ có cùng tăng hay không. Một Σ chéo cho các elip thẳng hàng với trục (các tọa độ độc lập); các số hạng ngoài đường chéo làm nghiêng chúng đi. Σ phải là ma trận nửa xác định dương, vì không có hướng nào lại có phương sai âm.

Vị trí của nó trong MLKhi một quá trình Gauss thực hiện hồi quy kèm thanh sai số tích hợp sẵn, nó đặt một phân phối Gauss đa biến lên trên các hàm. Tiên nghiệm cho biến tiềm ẩn của VAE là phân phối chuẩn đa biến tiêu chuẩn N(0, I). Các mô hình biến tiềm ẩn Gauss và lịch trình nhiễu của mô hình khuếch tán đều dựa vào sự kiện rằng các ánh xạ tuyến tính và phân phối có điều kiện của một Gauss vẫn là Gauss.