Lineare Algebra · Singulärwertzerlegung

Singulärwertzerlegung

Jede reelle 2 × 2-Matrix lässt sich als A = UΣVᵀ schreiben. Zuerst dreht oder spiegelt Vᵀ, dann streckt Σ entlang der Achsen mit σ₁ ≥ σ₂ ≥ 0. Zum Schluss dreht oder spiegelt U. A bildet den Einheitskreis auf eine Ellipse ab, deren Achsen aus zwei senkrechten Richtungen entstehen.

Singulärwertzerlegung in dieser Darstellung

Eine lineare Abbildung der Ebene bildet den Einheitskreis auf eine Ellipse ab. Ist AA singulär, wird daraus eine Strecke oder ein Punkt. Läuft vv um den Kreis, erreicht die Länge ∣Av∣|Av| in Richtung v1v_1 ihr Maximum σ1\sigma_1 und in der dazu senkrechten Richtung v2v_2 ihr Minimum σ2\sigma_2. Das sind die Singulärwerte. Es gilt Av1=σ1u1Av_1 = \sigma_1 u_1 und Av2=σ2u2Av_2 = \sigma_2 u_2 mit den Einheitsvektoren u1⊥u2u_1 \perp u_2 entlang der Ellipsenachsen. Spaltenweise zusammengefasst ergibt das A=UΣVTA = U\Sigma V^{\mathsf T}. Die roten Pfeile zeigen vv und die dazu senkrechte Richtung, die gelben ihre Bilder unter AA.

Warum nur dort der rechte Winkel bleibt

Das Längenquadrat ist ∣Av∣2=vT(ATA)v|Av|^2 = v^{\mathsf T}(A^{\mathsf T}A)v. Die symmetrische Matrix ATAA^{\mathsf T}A besitzt senkrechte Eigenvektoren v1,v2v_1, v_2 mit Eigenwerten σ12,σ22\sigma_1^2, \sigma_2^2. Auch ihre Bilder sind senkrecht, denn Av1⋅Av2=v1TATAv2=σ22 v1⋅v2=0Av_1 \cdot Av_2 = v_1^{\mathsf T}A^{\mathsf T}Av_2 = \sigma_2^2\, v_1 \cdot v_2 = 0. Gilt σ1>σ2>0\sigma_1 > \sigma_2 > 0, ist dies bis auf Vorzeichen das einzige senkrechte Paar mit senkrechten Bildern. Für A=(3045)A = \begin{pmatrix} 3 & 0 \\ 4 & 5 \end{pmatrix} werden (1,0)(1, 0) und (0,1)(0, 1) auf (3,4)(3, 4) und (0,5)(0, 5) abgebildet, mit einem Winkel von nur 36.87°. Beim Drehen von vv reicht er von 36.87° bis 143.13°. Bei σ1=σ2\sigma_1 = \sigma_2, einer positiv skalierten Drehung oder Spiegelung, bleibt jeder rechte Winkel erhalten. Bei σ2=0\sigma_2 = 0 ist ein Bild der Nullvektor und der Winkel undefiniert.

Drehen, strecken, drehen

Von rechts gelesen dreht VTV^{\mathsf T} die Richtungen v1,v2v_1, v_2 auf die Koordinatenachsen. Σ\Sigma streckt entlang dieser Achsen um σ1,σ2\sigma_1, \sigma_2. UU dreht das Ergebnis auf u1,u2u_1, u_2. Hier spiegelt UU zusätzlich eine Achse, falls det⁡A<0\det A < 0. Die Zwischenbilder zeigen einen gewählten Übergang. Nur die einzelnen Schritte sind die Faktoren. Flächen skalieren mit σ1σ2=∣det⁡A∣\sigma_1\sigma_2 = |\det A|. Anders als die Diagonalisierung funktioniert dies für jede Matrix: Die Scherung (1101)\begin{pmatrix} 1 & 1 \\ 0 & 1 \end{pmatrix} hat keine Eigenbasis, aber die Singulärwerte φ≈1.618\varphi \approx 1.618 und 1/φ≈0.6181/\varphi \approx 0.618. Für symmetrische Matrizen mit positiven Eigenwerten stimmen beide Zerlegungen überein.

Was die Singulärwerte aussagen

Bei einem Singulärwert null wird die Ebene auf höchstens eine Gerade abgebildet. Die Anzahl der von null verschiedenen Singulärwerte ist der Rang. Für σ2>0\sigma_2 > 0 misst σ1/σ2\sigma_1/\sigma_2 die Streckung der Ellipse und damit die mögliche Verstärkung relativer Fehler beim Lösen mit AA. Bei zentrierten Daten liefern dieselben Richtungen die Hauptkomponenten der Hauptkomponentenanalyse.

Worauf du achten kannst

  • Die Vorzeichen eines Paars vi,uiv_i, u_i lassen sich gemeinsam umkehren. Bei σ1=σ2\sigma_1 = \sigma_2 sind die Richtungen darüber hinaus frei wählbar.
  • Jede reelle m × n-Matrix besitzt eine Singulärwertzerlegung mit min(m, n) Singulärwerten. Hier siehst du den Fall 2 × 2.

Bedienung

  • Ziehe die Spitze von v auf dem Kreis oder drehe den Regler. Mit dem Schrittrad kannst du die drei Faktoren einzeln verfolgen.

Verwandte Themen