Zincir Kuralı

Single-variable calculus from first principles

Zincir kuralı, backpropagation'ın üzerine kurulduğu kuraldır. Sana bir bileşkenin türevini nasıl alacağını söyler: f(g(x)) gibi başka bir fonksiyonun içindeki fonksiyon.

"Dış fonksiyonun iç fonksiyona uygulanması"nı türevlemek için dış türevi alırsın (içeriyi olduğu gibi bırakarak), sonra iç türev ile çarparsın. Değişim hızları zincir boyunca çarpılır.

Bunu bir boru hattı gibi düşün: x → g → f. x içindeki küçük bir itme g′ tarafından büyütülür, sonra bu itme tekrar f′ tarafından büyütülür. Toplam büyütme bu ikisinin çarpımıdır. Şekil, türevlerin bileşke boyunca çarpılmasını izler.

Bunun ML'deki yeriBackpropagation, ağın içinden geriye doğru çalıştırılan zincir kuralıdır. Derin bir ağ dev bir bileşkedir (katman üstüne katman üstüne katman) ve kaybın erken bir ağırlığa göre gradyanı, yol boyunca çarpılan, katman başına bir yerel türev çarpımıdır. "Kaybolan gradyanlar" bu yüzden olur: çok sayıda küçük türevi çarparsan çarpım yok denecek kadar küçülür. Zincir kuralı backprop'a benzemez;…
▶ Zincir Kuralı
← Çarpım ve Bölüm KurallarıÖrtük Türevleme →