直線と多項式 — 微分積分学 I · Mathematics for Machine Learning

微積分が面白いことをする前に、その対象となる関数に熟達する必要があります。初期に重荷を背負う2つの族があります：直線と多項式。良い知らせは、公式からほぼすべての情報が読み取れることです — 何を見るべきか分かればプロットは不要です。

直線はy = mx + bです。傾きmは急さ（rise over run）；bはy軸と交わる位置です。正のmは上向き、負は下向き、ゼロは水平。それが直線のすべてです。

一定の速度で燃え尽きるろうそくは完璧な直線です。その高さは1時間ごとに同じ量だけ下がるため、公式 y = mx + b は負の傾き m （燃焼速度）と切片 b （開始時の高さ）を持ちます。空中に投げられたボールは異なります — その高さは上昇し、その後下降して放物線、つまり二次関数 ax² + bx + c のU字型のグラフを描きます。一方は曲がり、もう一方はまっすぐなままであり、点をプロットする前に公式がどちらかを教えてくれます。

機械学習における位置づけ多項式はテイラー近似（モジュール10）の原料です：ある点の近くで、ほぼ任意の滑らかな関数 — シグモイド、損失曲面 — は低次多項式でよく近似されます。そして判別式のアイデアは一般化します：最適化では、「2次の」量（ヘッセ行列の固有値）の符号がボウルかドームかサドルかを教えます — ここで放物線のaが果たす役割と同じです。