Eindimensionale Analysis aus ersten Prinzipien
Zwei Funktionen bestimmen im maschinellen Lernen das ganze Geschehen: die Exponentialfunktion eˣ und ihre Umkehrfunktion, der natürliche Logarithmus ln(x). Sie tauchen bei Wahrscheinlichkeiten, in Verlustfunktionen sowie bei Wachstum und Zerfall auf. Sich jetzt mit ihnen vertraut zu machen, zahlt sich später überall aus.
Das kennzeichnende Merkmal von eˣ ist, dass ihre Wachstumsrate gleich ihrem aktuellen Wert ist – je größer sie ist, desto schneller steigt sie. Das ist es, was "exponentielles Wachstum" wirklich bedeutet: nicht bloß "schnell", sondern im Verhältnis zu sich selbst zu wachsen. Die besondere Zahl e ≈ 2.718 ist die Basis, für die das genau zutrifft.
Der Logarithmus ln(x) macht einfach eˣ rückgängig: Er beantwortet die Frage "e hoch welche Potenz ergibt x?". Daher gilt ln(eˣ) = x und e^{ln x} = x. Da sie Umkehrfunktionen sind, sind ihre Graphen Spiegelbilder an der Geraden y = x – ziehen Sie den Punkt in der Abbildung und beobachten Sie, wie seine Spiegelung die andere Kurve nachzeichnet.