Изчисление на променлива от първи принципи
Изпъкналостта (convexity) е онова свойство на формата, което прави оптимизацията лесна. Една изпъкнала функция се извива навсякъде нагоре, като купа, и точно това свойство я прави лесна за минимизиране: тя има само една най-ниска точка и всяка пътека надолу води право към нея.
Има три равностойни начина да си представите изпъкналостта. Първо, втората производна е неотрицателна навсякъде: f″(x) ≥ 0. Второ, кривата се извива нагоре и никога не се огъва надолу. Трето (и това е определящата картина), хордата между произволни две точки лежи над кривата.
Представете си гладка долина или вътрешността на купа и пуснете топче където и да е по нея. Независимо откъде започва, топчето винаги се търкаля надолу до единствената най-ниска точка и се установява там. Точно това ви дава изпъкналостта: една долина, без фалшиви дъна, така че всеки път надолу води до единствения истински минимум.