リーマン積分
第一原理からの1変数微分積分
積分は微分の同伴の問いに答えます:「どれだけ速く変化しているか?」ではなく「どれだけ蓄積されたか?」幾何学的には、定積分は曲線とx軸の間に閉じ込められた面積です。
池の輪郭を方眼紙になぞり、その面積を知りたいと想像してください。岸が曲がっているため、1つの幅と1つの高さを掛け合わせることはできません。そこで、輪郭の下に収まる小さな四角形を数えます。四角形が多いほど、グリッドが細かいほど、カウントは真の面積に近づいていきます。リーマン和はまさにそのカウントであり、積分は四角形が極限まで縮小したときに落ち着く数値です。
長方形なら面積は単に幅×高さです。しかし曲線は波打つ天井を持つ — 掛ける単一の高さがない。ベルンハルト・リーマンのアイデア:領域を細い垂直な長方形にスライスし、それぞれが曲線をほぼ平らと見なせるほど短くし、面積を足し、さらに薄いスライスを使う。
機械学習における位置づけ確率では、期待値は積分です。連続分布上の量の平均値はE[f(X)] = ∫ f(x) p(x) dx。エントロピーは−∫ p(x) ln p(x) dx;分布の正規化定数は積分;KLダイバージェンスは積分。連続確率は単に積分である。 そしてモデルが「分布上で平均を取る」が正確に積分できないとき、次善の策を取る:モンテカルロ推定は積分をランダムサンプル上の平均で置き換える — まさにリーマン風の和。上の絵は生成モデルのすべての期待値が近似しているものです。
▶ リーマン積分