Algèbre linéaire · Décomposition en valeurs singulières

Décomposition en valeurs singulières

Toute matrice réelle 2 × 2 s’écrit A = UΣVᵀ. Vᵀ effectue une rotation ou une réflexion, Σ étire selon les axes de facteurs σ₁ ≥ σ₂ ≥ 0, les valeurs singulières, puis U effectue une rotation ou une réflexion. Les axes de l’ellipse image du cercle unité proviennent de deux directions orthogonales.

Décomposition en valeurs singulières sur ce graphique

Une application linéaire du plan transforme le cercle unité en ellipse, réduite à un segment ou à un point si AA est singulière. Quand vv parcourt le cercle, la longueur ∣Av∣|Av| atteint son maximum σ1\sigma_1 dans une direction v1v_1 et son minimum σ2\sigma_2 dans la direction orthogonale v2v_2. Ce sont les valeurs singulières. On a Av1=σ1u1Av_1 = \sigma_1 u_1 et Av2=σ2u2Av_2 = \sigma_2 u_2, où les vecteurs unitaires u1⊥u2u_1 \perp u_2 suivent les axes de l’ellipse. En réunissant les colonnes, on obtient A=UΣVTA = U\Sigma V^{\mathsf T}. Les flèches rouges montrent vv et sa perpendiculaire, les jaunes leurs images par AA.

Pourquoi l’angle droit ne subsiste que dans ces directions

La longueur au carré vaut ∣Av∣2=vT(ATA)v|Av|^2 = v^{\mathsf T}(A^{\mathsf T}A)v. Comme ATAA^{\mathsf T}A est symétrique, ses vecteurs propres v1,v2v_1, v_2 sont orthogonaux et ont pour valeurs propres σ12,σ22\sigma_1^2, \sigma_2^2. Leurs images sont orthogonales puisque Av1⋅Av2=v1TATAv2=σ22 v1⋅v2=0Av_1 \cdot Av_2 = v_1^{\mathsf T}A^{\mathsf T}Av_2 = \sigma_2^2\, v_1 \cdot v_2 = 0. Si σ1>σ2>0\sigma_1 > \sigma_2 > 0, c’est, aux signes près, la seule paire orthogonale dont les images le restent. Avec A=(3045)A = \begin{pmatrix} 3 & 0 \\ 4 & 5 \end{pmatrix}, les vecteurs (1,0)(1, 0) et (0,1)(0, 1) deviennent (3,4)(3, 4) et (0,5)(0, 5), qui ne font que 36.87°. Quand vv tourne, l’angle varie de 36.87° à 143.13°. Si σ1=σ2\sigma_1 = \sigma_2, une rotation ou réflexion suivie d’une homothétie positive conserve tous les angles droits. Si σ2=0\sigma_2 = 0, une image est nulle et l’angle n’est pas défini.

Tourner, étirer, tourner

De droite à gauche, VTV^{\mathsf T} aligne v1,v2v_1, v_2 sur les axes, Σ\Sigma étire selon ces axes de facteurs σ1,σ2\sigma_1, \sigma_2, puis UU oriente le résultat selon u1,u2u_1, u_2. Ici UU inverse aussi un axe si det⁡A<0\det A < 0. Les images intermédiaires illustrent un trajet possible ; seules les étapes elles-mêmes sont les facteurs. Les aires sont multipliées par σ1σ2=∣det⁡A∣\sigma_1\sigma_2 = |\det A|. Contrairement à la diagonalisation, cette décomposition existe pour toute matrice. Le cisaillement (1101)\begin{pmatrix} 1 & 1 \\ 0 & 1 \end{pmatrix} n’a pas de base propre, mais ses valeurs singulières sont φ≈1.618\varphi \approx 1.618 et 1/φ≈0.6181/\varphi \approx 0.618. Pour une matrice symétrique à valeurs propres positives, les deux factorisations coïncident.

Ce que disent les valeurs singulières

Si une valeur singulière est nulle, le plan s’écrase sur une droite ; si les deux sont nulles, sur un point. Le rang est le nombre de valeurs singulières non nulles. Si σ2>0\sigma_2 > 0, le rapport σ1/σ2\sigma_1/\sigma_2 mesure l’allongement de l’ellipse et l’amplification possible des erreurs relatives lors d’une résolution avec AA. Pour des données centrées, ces directions fournissent les axes de l’analyse en composantes principales.

À observer

  • On peut changer simultanément les deux signes de chaque paire vi,uiv_i, u_i. Si σ1=σ2\sigma_1 = \sigma_2, même les directions ne sont pas uniques.
  • Toute matrice réelle m × n admet une telle décomposition, avec autant de valeurs singulières que le plus petit de m et n. Cette page montre le cas 2 × 2.

Commandes

  • Déplacez la pointe de v sur le cercle ou tournez le cadran. La molette des étapes permet d’observer les trois facteurs successivement.

Voir aussi