Bagaimana model sebenarnya belajar, dari gradient descent dasar hingga Adam
Alternating Least Squares, atau ALS, adalah optimizer untuk masalah yang menjadi mudah ketika Anda membekukan separuh dari yang-tidak-diketahui. ALS umum digunakan dalam faktorisasi matriks, khususnya sistem rekomendasi.
Idenya sederhana: tahan faktor item tetap dan selesaikan untuk faktor pengguna. Lalu tahan faktor pengguna tetap dan selesaikan untuk faktor item. Ulangi sampai rekonstruksinya berhenti membaik.
Dua tiang tenda bisa disetel dengan cara ini. Jika keduanya longgar, bentuk kanvasnya sulit diperbaiki sekaligus. Tahan tiang kiri tetap kokoh dan setel yang kanan. Lalu tahan yang kanan tetap kokoh dan setel yang kiri. Mengulangi penyetelan yang lebih sederhana itu bisa mengencangkan seluruh tenda. Gambar di bawah menunjukkan satu setengah-langkah dari perulangan itu: dengan satu sisi dibekukan (garis tetap), pilihan terbaik untuk sisi lainnya adalah fit least-squares. Seret target dan saksikan fit-nya mengejar; ALS hanya bergantian sisi mana yang menjadi garis yang dibekukan.