Обчислення багатьох змінних із перших принципів
Автоматичне диференціювання може обчислювати мільйони похідних за один зворотний прохід, але одна помилка в кастомній операції тихо шле неправильний градієнт крізь усю модель. Перевірка градієнтів ловить цей баг за допомогою скінченної різниці: зробіть маленький крок h в обидва боки від точки, зчитайте, наскільки змінилася функція, і розглядайте нахил цієї короткої секанти як незалежну оцінку справжнього дотичного нахилу.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Скінченні різниці і перевірка градієнтів