奇异值分解与本页画面
平面上的线性变换把单位圆变成椭圆(不可逆时压成线段或一个点)。绕圆一圈,长度在某个方向最大,为;在与它垂直的方向最小,为。这两个数是奇异值,并且、,单位向量沿椭圆的两条轴。把这些列拼起来就是。图中的红色箭头表示一个方向和与它垂直的方向,黄色箭头表示它们在下的像。
为什么只有那一对保住直角
长度的平方是,而是对称矩阵,有互相垂直的特征向量:正是,特征值是。它们的像也互相垂直,因为。时,这一对(不计正负号)是唯一保住直角的垂直方向,别的都会被拧歪。对,和被送到和,夹角只有36.87°;转一圈,夹角在36.87°到143.13°之间变。时(旋转或反射再乘一个正数),每一对都保住直角;时有一个像是零向量,谈不上夹角。
转、伸缩、转
从右往左读,把转到坐标轴上,沿两轴伸缩倍,再转到(时本页的还要翻转一条轴)。各步之间的画面是为演示选的一条路径,只有各步本身是那几个因子。面积乘。和对角化不同,任何矩阵都能这样分解:剪切没有特征基,奇异值却是和。特征值都为正的对称矩阵,两种分解是同一个。
奇异值说明什么
一个奇异值是0时,平面被压到一条直线上;两个都是0时,就只剩一个点:非零奇异值的个数就是秩。时,比值说明椭圆有多扁,也就是用解方程时相对误差最多会被放大多少。用在数据表上,同样的方向就是主成分分析里的主成分。
值得注意
- 每一对可以同时变号;时方向根本不唯一。
- 任何实的m × n矩阵都有奇异值分解,奇异值的个数是m、n中较小的那个;本页演示2 × 2的情形。
操作
- 沿圆拖v的尖或转罗盘改方向;拧“步骤”滚轮,一次看一个因子。