Mehrdimensionale Analysis aus ersten Prinzipien
Die Analysis einer Veränderlichen spielte sich auf einer Geraden ab. Maschinelles Lernen tut das nicht. Die Gewichte eines neuronalen Netzes, ein Embedding, ein Gradient: Jedes davon ist ein Punkt im hochdimensionalen Raum, Rⁿ. Die gute Nachricht ist, dass sich die Geometrie, die Sie von der flachen Ebene R² kennen, fast wortwörtlich überträgt. Ein Vektor ist nach wie vor ein Pfeil vom Ursprung; Länge, Winkel und der "Schatten auf einen anderen Vektor" ergeben weiterhin Sinn. Wir können es nur irgendwann nicht mehr zeichnen.
Ein Vektor v = (v₁, v₂, …, vₙ) ist eine geordnete Liste von Zahlen. Sie können ihn auf zwei Arten zugleich lesen: als Ort (der Punkt, an dem Sie landen) und als Richtung mit einer Länge (der Pfeil, der Sie dorthin bringt). Beide Lesarten sind im maschinellen Lernen ständig wichtig.
Die Norm (Länge) eines Vektors folgt direkt aus dem Satz des Pythagoras, nur mit mehr Termen: