Projection orthogonale

La projection orthogonale trouve le point d’un sous-espace le plus proche d’un vecteur donné. Ici, le sous-espace $S$ est un plan ou une droite passant par l’origine O, et le vecteur est $\vec b$. Sa projection $\vec p$ appartient à $S$, et l’erreur $\vec e = \vec b - \vec p$ est perpendiculaire à $S$. Vous pouvez déplacer $\vec b$ et modifier $S$, comparer $\vec p$ à tout autre point de $S$, et voir quand les ombres de $\vec b$ sur deux axes ont pour somme $\vec p$.

Pourquoi l’angle droit donne-t-il le point le plus proche ? Prenez un autre point $q$ dans $S$. Le segment de $q$ à $\vec p$ appartient à $S$ : il est donc perpendiculaire à $\vec e$. Les points $\vec b$, $\vec p$ et $q$ forment un triangle rectangle en $\vec p$, et Pythagore donne

Ainsi, $\vec b$ est plus loin de $q$ que de $\vec p$, sauf si $q$ est $\vec p$ lui-même. La réciproque est vraie aussi : si $\vec e$ penchait dans une direction de $S$, déplacer légèrement $\vec p$ dans cette direction le rapprocherait de $\vec b$. Dans un plan, le point le plus proche est donc celui où $\vec e$ est perpendiculaire à la fois à $\vec u$ et à $\vec w$. Sur une droite, la perpendicularité à $\vec u$ suffit.

Trouver $\vec p$ revient à utiliser ces angles droits. Sur une droite, $\vec p$ est un multiple de $\vec u$, et la condition $\vec e\cdot\vec u = 0$ détermine ce multiple :

Dans un plan, écrivons $\vec p = c_1\vec u + c_2\vec w$. Les deux conditions $\vec e\cdot\vec u = 0$ et $\vec e\cdot\vec w = 0$ donnent deux équations linéaires en $c_1$ et $c_2$, appelées équations normales :

L’affichage donne $\vec p$ sous forme de coordonnées et de combinaison de $\vec u$ et $\vec w$. Déplacez $\vec u$ et $\vec w$ à l’intérieur du même plan : les coefficients changent, mais $\vec p$ reste fixe. La projection dépend uniquement du sous-espace, pas des vecteurs choisis pour le décrire.

Lorsque $\vec u$ et $\vec w$ sont perpendiculaires, les deux équations se découplent. Chaque coefficient dépend alors d’un seul axe, et $\vec p$ est simplement la somme des ombres de $\vec b$ sur les deux axes :

Avec des axes obliques, ce raccourci échoue généralement. Chaque ombre est calculée comme si l’autre axe n’existait pas ; leur somme $s$ tombe donc généralement ailleurs qu’en $\vec p$. L’affichage montre alors que $\vec b - s$ ne forme pas un angle droit avec au moins l’un des deux axes. Rendre w perpendiculaire à u remplace $\vec w$ par sa composante perpendiculaire à $\vec u$ : c’est une étape du procédé de Gram–Schmidt. Le plan reste le même, mais ses deux axes sont désormais perpendiculaires, et les ombres ont pour somme $\vec p$ pour tout $\vec b$.

La diagonale passant par $(1, 1, 1)$ fournit un exemple familier. Projeter $\vec b$ sur cette droite remplace chaque composante de $\vec b$ par leur moyenne, et $|\vec e|^2$ est la somme des carrés des écarts à cette moyenne. La régression par moindres carrés utilise le même type de projection.