Taylor 多项式

从第一性原理出发的单变量微积分

Taylor 多项式用一个简单多项式在某点附近近似复杂函数,这个多项式被构造为在该点匹配函数值、斜率、曲率等。匹配的导数越多,多项式在附近就越贴近曲线。

思想是分层的。常数匹配高度。加入线性项,就也匹配斜率(这就是切线)。加入二次项,就匹配曲率。每个新项都会修正一个更高阶导数。

拖动图中的项数,观察低阶多项式如何很快偏离曲线,而更高阶多项式能在更宽范围内贴住它。

在机器学习中的应用Taylor 展开在优化中到处出现。梯度下降使用线性(一阶)Taylor 项,沿斜率方向走。牛顿法使用二次项,拟合一条抛物线并跳到它的最小值。优化器的整个层级,本质上取决于“我们保留多少个 Taylor 项?”在线性化非线性函数的工作点附近分析网络局部行为,也是同一个思想。
▶ Taylor 多项式
← 分部积分(简述)关键 Taylor 级数 →