Inference, estimation, and decision-making from data
Basit doğrusal regresyon, istatistikten makine öğrenmesine giden köprüdür: tahmin eden en basit modeldir. Bir x girdisi ile bir y çıktısı arasındaki ilişkinin bir doğru artı rastgele gürültü olduğunu varsayar ve en iyi uyan doğruyu bulursunuz.
β₀ kesim noktası, β₁ eğim ve ε gürültüdür. "En iyi uyan", toplam kare artıkları (noktalar ile doğru arasındaki dikey farklar) en aza indiren doğru anlamına gelir, yani sıradan en küçük kareler (OLS) yöntemi.
Şekildeki eğimi ve kesim noktasını sürükleyin ve kareler hata toplamının (SSE) nasıl değiştiğini izleyin. OLS doğrusu, mercan renkli artık çubuklarının toplam kare uzunluğunu minimumuna indiren tek doğrudur.