Projeção ortogonal

A projeção ortogonal encontra o ponto de um subespaço mais próximo de um vetor dado. Aqui, o subespaço $S$ é um plano ou uma reta que passa pela origem O, e o vetor é $\vec b$. A sua projeção $\vec p$ pertence a $S$, e o erro $\vec e = \vec b - \vec p$ é perpendicular a $S$. Pode mover $\vec b$ e alterar $S$, comparar $\vec p$ com qualquer outro ponto de $S$ e ver quando as sombras de $\vec b$ sobre dois eixos somam $\vec p$.

Porque é que o ângulo reto dá o ponto mais próximo? Tome outro ponto $q$ em $S$. O segmento de $q$ a $\vec p$ está em $S$, pelo que é perpendicular a $\vec e$. Os pontos $\vec b$, $\vec p$ e $q$ formam um triângulo retângulo com o ângulo reto em $\vec p$, e Pitágoras dá

Assim, $\vec b$ está mais longe de $q$ do que de $\vec p$, a menos que $q$ seja o próprio $\vec p$. O recíproco também é verdadeiro: se $\vec e$ se inclinasse numa direção de $S$, deslocar $\vec p$ um pouco nessa direção aproximá-lo-ia de $\vec b$. Num plano, o ponto mais próximo é, portanto, aquele em que $\vec e$ é perpendicular tanto a $\vec u$ como a $\vec w$. Numa reta, basta ser perpendicular a $\vec u$.

Encontrar $\vec p$ resume-se a estas condições de ângulo reto. Numa reta, $\vec p$ é um múltiplo de $\vec u$, e a condição $\vec e\cdot\vec u = 0$ determina esse múltiplo:

Num plano, escrevemos $\vec p = c_1\vec u + c_2\vec w$. As duas condições $\vec e\cdot\vec u = 0$ e $\vec e\cdot\vec w = 0$ tornam-se duas equações lineares para $c_1$ e $c_2$, chamadas equações normais:

A leitura apresenta $\vec p$ em coordenadas e como combinação de $\vec u$ e $\vec w$. Arraste $\vec u$ e $\vec w$ dentro do mesmo plano: os coeficientes mudam, mas $\vec p$ não. A projeção depende apenas do subespaço, não dos vetores usados para o descrever.

Quando $\vec u$ e $\vec w$ são perpendiculares, as duas equações deixam de depender uma da outra. Cada coeficiente depende apenas de um eixo, e $\vec p$ é simplesmente a soma das sombras de $\vec b$ sobre os dois eixos:

Com eixos oblíquos, este atalho geralmente falha. Cada sombra é calculada como se o outro eixo não existisse, pelo que a soma $s$ costuma ficar afastada de $\vec p$. Nesse caso, a leitura mostra que $\vec b - s$ falha pelo menos uma das duas condições de perpendicularidade. Tornar w perpendicular a u substitui $\vec w$ pela sua componente perpendicular a $\vec u$, um passo do processo de Gram–Schmidt. O plano continua a ser o mesmo, mas agora os seus eixos são perpendiculares, e as sombras somam $\vec p$ para qualquer $\vec b$.

A diagonal que passa por $(1, 1, 1)$ dá um exemplo familiar. Projetar $\vec b$ nessa reta substitui cada componente de $\vec b$ pela média de todas elas, e $|\vec e|^2$ é a soma dos quadrados dos desvios em relação a essa média. A regressão pelo método dos mínimos quadrados usa o mesmo tipo de projeção.