Inferensi, estimasi, dan pengambilan keputusan dari data
Regresi linear sederhana adalah jembatan dari statistik ke machine learning: model paling sederhana yang memprediksi. Anda berasumsi hubungan antara masukan x dan keluaran y adalah garis plus noise acak, dan Anda temukan garis ter-fit terbaik.
β₀ adalah intersep, β₁ kemiringan, dan ε noise. "Ter-fit terbaik" berarti garis yang meminimalkan total residual kuadrat (celah vertikal antara titik dan garis), metode ordinary least squares (OLS).
Seret kemiringan dan intersep di gambar dan saksikan jumlah galat kuadrat (SSE) berubah. Garis OLS adalah satu-satunya yang mendorong total panjang kuadrat tongkat residual oranye ke minimumnya.