Quy tắc dây chuyền là quy tắc mà lan truyền ngược được xây dựng dựa trên. Nó cho bạn biết cách lấy đạo hàm của một hàm hợp: một hàm nằm bên trong một hàm khác, chẳng hạn như f(g(x)).
Để lấy đạo hàm của "hàm ngoài của hàm trong", hãy lấy đạo hàm của hàm ngoài (giữ nguyên hàm trong), rồi nhân với đạo hàm của hàm trong. Tốc độ thay đổi được nhân dồn dọc theo chuỗi.
Hãy coi nó như một đường dẫn: x → g → f. Một xê dịch ở x được khuếch đại bởi g′, rồi xê dịch đó lại được khuếch đại thêm bởi f′. Tổng độ khuếch đại là tích của cả hai. Hình vẽ minh họa các đạo hàm nhân dồn dọc theo hàm hợp.
Vị trí của nó trong MLLan truyền ngược chính là quy tắc dây chuyền, chạy ngược qua mạng. Một mạng sâu là một hàm hợp khổng lồ (lớp này nối tiếp lớp khác), và độ dốc của mất mát theo một trọng số ở đầu mạng là tích của các đạo hàm cục bộ, mỗi lớp một thừa số, nhân dồn dọc theo đường dẫn. Đây là lý do xảy ra hiện tượng "gradient tiêu biến": nhân nhiều đạo hàm nhỏ với nhau và tích co lại về không. Quy tắc dây chuyền…