模型究竟是如何学习的——从原始梯度下降到Adam
交替最小二乘法，简称 ALS，是一种优化器，适用于那些只要冻结一半未知量就会变得容易求解的问题。它在矩阵分解中很常见，尤其是推荐系统。
思路很简单：先固定物品因子，求解用户因子；再固定用户因子，求解物品因子。如此反复，直到重建效果不再改善为止。
两根帐篷支柱就可以这样调整。如果两根都是松的，帆布的形状很难一次调好。先固定住左边那根，调整右边；再固定住右边那根，调整左边。反复进行这些更简单的调整，就能把整顶帐篷收紧。下面的图展示了这个循环中的一个半步：一侧被固定住（那条固定的线），另一侧的最佳选择就是一次最小二乘拟合。拖动目标点，观察拟合线如何追着它走；ALS 所做的，无非就是不断交替哪一侧充当那条固定的线。