Analiza wielowymiarowa od pierwszych zasad
Optymalizacja w wielu wymiarach zaczyna się dokładnie tam, gdzie w jednym wymiarze: musisz znaleźć miejsce, gdzie nachylenie jest zerowe. Ale teraz „nachylenie" to cały wektor gradientu, więc punkt krytyczny to miejsce, gdzie każda pochodna cząstkowa zeruje się jednocześnie, ∇f = 0.
To warunek konieczny, ale nie wystarczający: zerowy gradient oznacza minimum, maksimum lub punkt siodłowy. Aby je rozróżnić, wprowadzasz hesjan i odczytujesz znaki jego wartości własnych, wykonując test drugiego rzędu z Lekcji 13. Zerowy gradient lokalizuje kandydata; hesjan go klasyfikuje.
Przejdź się po pagórkowatym polu golfowym i poszukaj płaskich miejsc, takich, w których piłka mogłaby leżeć nieruchomo. Tee na szczycie wzgórza, niskie greeny w zagłębieniu i płaskie siodło wzdłuż grzbietu to wszystko miejsca, gdzie grunt jest na moment płaski we wszystkich kierunkach. Ta płaskość to ∇f = 0; to, czy jesteś na szczycie, w zagłębieniu czy na siodle, to oddzielne pytanie, na które odpowiada hesjan.