Doğrusal Cebir · Temel bileşen analizi

Temel bileşen analizi

Temel bileşen analizi verinin en çok yayıldığı yönleri bulur. İki değişkende birinci temel yön izdüşüm varyansını en büyük yapan birim yöndür. Kovaryans matrisinin en büyük özdeğerine karşılık gelen özvektördür; bu özdeğer en büyük varyanstır. Birinci temel bileşen doğrusu bu yönde ortalamadan geçer.

Bu görselde Temel bileşen analizi

Nokta bulutunun ortalamasından bir doğru geçirip her noktayı ona izdüşürün. uu yönündeki izdüşümlerin örneklem varyansı uTCuu^{\mathsf T} C u’dir. Örneklem kovaryans matrisi C=(sx2sxysxysy2)C = \begin{pmatrix} s_x^2 & s_{xy} \\ s_{xy} & s_y^2 \end{pmatrix}, köşegeninde iki varyansı, dışında kovaryansı içerir (toplamlar n−1n - 1 ile bölünür). Temel bileşen analizi en büyük varyansın yönünü seçer. Bu yönde ortalamadan geçen doğru PC1, ona dik doğru PC2’dir. Kırmızı doğru uu, sarı çizgiler izdüşümlerdir. Kalın sarı çubuk ortalamadan her iki yana birer standart sapmayı gösterir.

Paralel ve dik varyansların toplamı sabittir

Pisagor’a göre her noktanın ortalamaya uzaklığının karesi, uu yönündeki ve ona dik bileşenlerin kareleri toplamıdır. Tüm veriler için toplandığında uu boyunca ve ona dik varyansların toplamı uu yönünden bağımsız olarak toplam varyans sx2+sy2=tr⁡Cs_x^2 + s_y^2 = \operatorname{tr} C olur. Birini en büyük yapmak ötekini en küçük yapar. Ortalamadan geçen doğrular içinde PC1 dik uzaklıkların kareleri toplamını en aza indirir. yy değişkeninin xx üzerine regresyon doğrusu ise düşey artıkların kareleri toplamını en aza indirir. Dağınık bir bulutta doğruların yönleri çok farklı olabilir.

Çözüm neden bir özvektördür?

Simetrik CC matrisinin birbirine dik iki özvektörü ve bunlara karşılık gelen λ1≥λ2\lambda_1 \ge \lambda_2 özdeğerleri vardır. uu bu bazda yazılırsa uTCuu^{\mathsf T} C u, λ1\lambda_1 ve λ2\lambda_2 değerlerinin ağırlıklı ortalamasıdır; birinci özvektörde en büyük, ikincide en küçük olur. Böylece PC1 ve PC2, CC matrisinin özvektör yönleridir; varyansları λ1\lambda_1 ve λ2\lambda_2, PC1’in toplam içindeki payı λ1/(λ1+λ2)\lambda_1/(\lambda_1 + \lambda_2)’dir. Uygulamada merkezlenmiş veri matrisinin tekil değer ayrışımı da aynı yönleri verir.

Birimler sonucu değiştirir

Varyanslar birimlere bağlıdır. Boy metreyle, ağırlık kilogramla ölçülünce ağırlık sayıları daha çok değişir. Sırf bu yüzden PC1 ağırlık eksenine yaklaşır. Farklı birimler kullanıldığında genellikle her değişkenden ortalaması çıkarılıp standart sapmasına bölünür. Böylece CC, (1rr1)\begin{pmatrix} 1 & r \\ r & 1 \end{pmatrix} korelasyon matrisine dönüşür. İki değişkende PC1 açısı 45° (r<0r < 0 ise −45°) ve λ=1±∣r∣\lambda = 1 \pm |r| olur. r=0r = 0 ise hiçbir yön öne çıkmaz.

Dikkat edilecekler

  • Temel bileşen ekseni bir doğrudur: yönü işaret seçimine kadar bellidir.
  • Çok değişkenli verilerde de birkaç yön toplam varyansın çoğunu taşıyabilir. Böylece veriler daha az sayıyla betimlenebilir.

Kontroller

  • Doğruyu döndürmek için kırmızı tutamacı sürükleyin veya kadranı çevirin. Tutamaç odaktayken ok tuşları 1° döndürür.

İlgili konular