偏微分

第一原理からの多変数微分積分

多変数微分積分の大部分を担う1つのアイデア:多変数関数を微分するには、一度に1つの変数だけを変え、他をすべて固定する。yを動かさず、xを少し動かし、fがどう応答するかを問う。その変化率が偏微分∂f/∂xです。

曲がった∂(「偏」)が唯一の新しい記法です。それ以外はコースIの微分(べき乗ルール、積のルール、連鎖律)を固定された変数が定数であるかのように適用するだけ。

丘の中腹に立つと、感じる傾斜はどちらを向いているかによって異なります。南北の位置を固定して真東に歩くと、足元の急勾配は偏微分 ∂f/∂x になります。代わりに方向転換して、東西を固定して真北に歩くと、別の傾斜 ∂f/∂y を感じます。各偏微分は1つの方向を固定し、もう1つの方向に沿った上昇または下降を報告します。

機械学習における位置づけネットワークの1つの重み以外をすべて固定し、その単一の重みを少し動かしたとき損失がどう動くかを想像してください。答えが偏微分∂L/∂wᵢです:その符号が損失を下げるために重みをどちらに押すかを教え、その大きさが損失がその重みにどれだけ敏感かを教える。重みごとに1つの偏微分を集めると勾配になり、次のいくつかのレッスンで組み立てる。
▶ 偏微分
← Rⁿの極限と連続性高階偏微分 →