Orthogonale Projektion

Die orthogonale Projektion findet den Punkt eines Unterraums, der einem gegebenen Vektor am nächsten liegt. Hier ist der Unterraum $S$ eine Ebene oder eine Gerade durch den Ursprung O, und der Vektor ist $\vec b$. Seine Projektion $\vec p$ liegt in $S$, und der Fehler $\vec e = \vec b - \vec p$ steht senkrecht auf $S$. Du kannst $\vec b$ bewegen, $S$ verändern, $\vec p$ mit jedem anderen Punkt von $S$ vergleichen und beobachten, wann die Schatten von $\vec b$ auf zwei Achsen zusammen $\vec p$ ergeben.

Warum liefert der rechte Winkel den nächstgelegenen Punkt? Wähle einen anderen Punkt $q$ in $S$. Die Strecke von $q$ nach $\vec p$ liegt in $S$ und steht daher senkrecht auf $\vec e$. Die Punkte $\vec b$, $\vec p$ und $q$ bilden ein rechtwinkliges Dreieck mit dem rechten Winkel bei $\vec p$. Nach Pythagoras gilt

Also ist $\vec b$ von $q$ weiter entfernt als von $\vec p$, es sei denn, $q$ ist $\vec p$ selbst. Auch die Umkehrung gilt: Wäre $\vec e$ in eine Richtung innerhalb von $S$ geneigt, könnte man $\vec p$ ein wenig dorthin verschieben und so näher an $\vec b$ bringen. In einer Ebene ist der nächste Punkt also derjenige, bei dem $\vec e$ sowohl auf $\vec u$ als auch auf $\vec w$ senkrecht steht. Auf einer Geraden genügt die Senkrechte zu $\vec u$.

Um $\vec p$ zu finden, nutzt man diese rechten Winkel. Auf einer Geraden ist $\vec p$ ein Vielfaches von $\vec u$, und die Bedingung $\vec e\cdot\vec u = 0$ legt diesen Faktor fest:

In einer Ebene schreibt man $\vec p = c_1\vec u + c_2\vec w$. Die beiden Bedingungen $\vec e\cdot\vec u = 0$ und $\vec e\cdot\vec w = 0$ werden zu zwei linearen Gleichungen für $c_1$ und $c_2$, den Normalgleichungen:

Die Anzeige gibt $\vec p$ sowohl in Koordinaten als auch als Kombination von $\vec u$ und $\vec w$ an. Ziehe $\vec u$ und $\vec w$ innerhalb derselben Ebene: Die Koeffizienten ändern sich, $\vec p$ jedoch nicht. Die Projektion hängt nur vom Unterraum ab, nicht von den Vektoren, mit denen man ihn beschreibt.

Stehen $\vec u$ und $\vec w$ senkrecht aufeinander, entkoppeln sich die beiden Gleichungen. Jeder Koeffizient hängt dann nur von einer Achse ab, und $\vec p$ ist einfach die Summe der Schatten von $\vec b$ auf den beiden Achsen:

Bei schiefen Achsen funktioniert diese Abkürzung meist nicht. Jeder Schatten wird so bestimmt, als gäbe es die andere Achse nicht. Ihre Summe $s$ liegt daher meist nicht bei $\vec p$. Dann zeigt die Anzeige, dass $\vec b - s$ mindestens einen der beiden rechten Winkel verfehlt. w senkrecht zu u stellen ersetzt $\vec w$ durch seinen zu $\vec u$ senkrechten Anteil — einen Schritt des Gram-Schmidt-Verfahrens. Die Ebene bleibt dieselbe, doch ihre beiden Achsen stehen nun senkrecht aufeinander. Die Schatten ergeben dann für jedes $\vec b$ genau $\vec p$.

Die Diagonale durch $(1, 1, 1)$ liefert ein vertrautes Beispiel. Projiziert man $\vec b$ auf sie, wird jeder Eintrag von $\vec b$ durch den Mittelwert aller Einträge ersetzt. $|\vec e|^2$ ist die Summe der quadrierten Abweichungen von diesem Mittelwert. Die Methode der kleinsten Quadrate bei der Regression verwendet dieselbe Art von Projektion.