Промяна на променливите — Смятане II

Този последен урок свързва двете половини на курса. Когато правите смяна на променливите в интеграл чрез заместването x = g(u), трябва да отчетете как заместването разтяга пространството. Този коефициент на разтягане е детерминантата на Якоби от Модул 3, така че крайната формула е мястото, където производните и интегралите от курса най-сетне се срещат.

Това е многомерното обобщение на u-заместването от първата част на курса. Там коефициентът беше |dx/du| – едномерен „якобиан“. Тук той е |det J_g|, коефициентът на мащабиране на обема: докато изображението g свива или разширява малки кутийки от u-пространството в x-пространството, детерминантата мащабира интеграла, така че сумарната стойност да остане вярна.

Опитът да се интегрира върху кръгла област с квадратни x-y плочки е като павирането на кръгово кръстовище с правоъгълни тухли: краищата никога не пасват чисто. Преминете към кръгови (полярни) координати, които се увиват около центъра, и формата си идва на мястото естествено. Цената за преминаването е коефициентът на разтягане, който превръща елемента на площта в r dr dθ, защото пръстените, по-далеч от центъра, покриват повече пространство.

Къде се използва това в MLТази единствена формула е математическото ядро на нормализиращите потоци и трика за репараметризация. Потокът преобразува проста плътност чрез обратимо g, а p_X(x) = p_Z(g⁻¹(x))·|det J_{g⁻¹}| поддържа вероятността нормализирана, като детерминантата на Якоби проследява как плътността се мени при преобразуването. Трикът за репараметризация във VAE използва същата логика за смяна на променливите, за…