データはどれだけあれば十分か?本物の汎化バウンド

すでに知っている数学だけで組み立てる古典的モデル

あるモデルが1000個の訓練例を見事にこなしたとしよう。それをこの先も保ち続けると、どれほど確信できるだろうか。巨大な鍋のスープをひとさじだけ味見すると、その読みは運悪く外れることがある。たまたま入り込んだ塩の塊、おたまの近くの冷たい部分。そのたった一さじは、鍋全体の本当の味の頼りない手がかりにしかならない。だが鍋のあちこちから何さじも味見すれば、平均の味は真実へと落ち着き、その読みが大きく外れることは非常に起こりにくくなる。訓練セットも同じように働く。それは、モデルがいつか出会うかもしれないすべての入力という、広大で数え切れない鍋から汲まれた、有限のひとさじなのだ。

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ データはどれだけあれば十分か?本物の汎化バウンド
← 学習曲線:データを増やすか、モデルを大きくするかノーフリーランチとオッカムの剃刀 →