特異値分解を図で見る
平面の線形変換は単位円を楕円に写す( が特異なら線分または点になる)。 が円を一周するとき、像の長さ は方向 で最大値 、その垂直方向 で最小値 をとる。これらが特異値である。楕円の軸に沿う単位ベクトル を用いて 、 と書ける。列をまとめると 。赤の矢印は方向 とその垂直方向、黄色は によるそれぞれの像を表す。
その方向だけで直角が保たれる理由
長さの二乗は である。 は対称行列なので、互いに直交する固有ベクトル があり、固有値は である。 より、この2本の像も直交する。 なら、符号を除き、変換後も直交する組はこれだけである。例えば は 、 を 、 に写し、像のなす角は36.87°しかない。 を回すとこの角は36.87°から143.13°まで変わる。 の場合(回転または鏡映の正の定数倍)、すべての直角が保たれる。 なら一方の像が零ベクトルになり、角は定義できない。
回転、伸縮、回転
右から読むと、 が を座標軸に合わせ、 が軸に沿って 倍に伸縮し、 が結果を に合わせる(ここでは のとき が片方の軸の向きも反転する)。途中のコマは表示のための補間で、分解の因子は各段階そのものである。面積の倍率は 。対角化と違って任意の行列に使え、せん断 に固有ベクトルの基底がなくても特異値 、 は存在する。正の固有値をもつ対称行列では2種類の分解が一致する。
特異値からわかること
一方の特異値が0なら平面は直線に、両方が0なら点につぶれる。0でない特異値の個数が階数である。 のとき は楕円の細長さを表し、 を用いて解を求める際に相対誤差がどれだけ増幅されうるかを示す。中心化したデータに同じ方法を用いると主成分分析の主軸が得られる。
注目する点
- 各組 の符号は同時に反転できる。 の場合は方向そのものも一意ではない。
- 任意の実 m × n 行列に特異値分解があり、特異値の個数は m と n の小さい方に等しい。ここでは2 × 2の場合を扱う。
操作方法
- 円上の v の先端をドラッグするかダイヤルを回す。手順ホイールで3つの因子を順に確認できる。