Suy luận, ước tính và ra quyết định từ dữ liệu
Tại sao một mô hình khớp hoàn hảo với dữ liệu huấn luyện lại thường thất bại trên dữ liệu mới? Phân tích độ chệch–phương sai đưa ra câu trả lời chính xác và định lượng. Nó tách lỗi dự đoán kỳ vọng của mô hình thành ba phần, trong đó hai phần kéo theo hai hướng ngược nhau.
Độ chệch² là lỗi do giả định sai: một mô hình quá đơn giản để nắm bắt sự thật (chưa khớp). Phương sai là lỗi do độ nhạy với mẫu huấn luyện cụ thể: một mô hình quá linh hoạt đến mức ghi nhớ cả nhiễu (quá khớp). Nhiễu là phần không thể giảm: tính ngẫu nhiên trong dữ liệu mà không mô hình nào loại bỏ được.
Hãy trượt độ phức tạp trong hình. Khi mô hình phức tạp dần lên, độ chệch (màu xanh lá) giảm nhưng phương sai (màu coral) tăng. Tổng lỗi kiểm tra (màu đen) là tổng của chúng cộng với mức nhiễu: một hình chữ U có đáy là độ phức tạp tối ưu.