Сингулярное разложение на этом рисунке
Линейное преобразование плоскости переводит единичную окружность в эллипс. Если вырождена, эллипс сжимается в отрезок или точку. Когда обходит окружность, длина принимает наибольшее значение в направлении и наименьшее в перпендикулярном направлении . Это сингулярные числа. Выполняются и , где единичные векторы направлены вдоль осей эллипса. Объединяя столбцы, получаем . Красные стрелки показывают и перпендикуляр к нему, жёлтые — их образы при .
Почему прямой угол сохраняется только в этих направлениях
Квадрат длины равен . У симметричной матрицы есть ортогональные собственные векторы с собственными значениями . Их образы также ортогональны, поскольку . При это с точностью до знаков единственная ортонормированная пара, образы которой перпендикулярны. При векторы и переходят в и с углом всего 36.87°. При вращении угол меняется от 36.87° до 143.13°. При преобразование есть поворот или отражение, умноженное на положительный коэффициент, поэтому сохраняет любой прямой угол. При один образ нулевой и угол не определён.
Поворот, растяжение, поворот
Справа налево: совмещает с координатными осями, растягивает вдоль них с коэффициентами , а направляет результат вдоль . Здесь также меняет направление одной оси при . Промежуточные кадры иллюстрируют один из путей перехода. Множители разложения — сами шаги. Площадь умножается на . В отличие от диагонализации, разложение существует для любой матрицы: у сдвига нет собственного базиса, но есть сингулярные числа и . Для симметричной матрицы с положительными собственными значениями оба разложения совпадают.
О чём говорят сингулярные числа
При одном нулевом сингулярном числе плоскость сжимается в прямую, при двух — в точку. Число ненулевых сингулярных чисел равно рангу. При отношение характеризует вытянутость эллипса и возможное усиление относительных ошибок при решении системы с . Для центрированных данных те же направления дают оси в методе главных компонент.
На что обратить внимание
- Знаки обоих векторов в паре можно менять одновременно. При неоднозначны даже сами направления.
- У любой вещественной матрицы m × n есть сингулярное разложение. Число сингулярных чисел равно меньшему из m и n. Здесь показан случай 2 × 2.
Управление
- Перетаскивайте конец v по окружности или вращайте регулятор. Колёсико шагов позволяет увидеть три множителя по очереди.
Связанные темы
Дополнительные материалы: Википедия: Singular value decomposition (Английский); Википедия: Polar decomposition (Английский).