Analisis komponen utama pada visualisasi ini
Tarik garis melalui rata-rata data, lalu proyeksikan setiap titik ke garis itu. Untuk arah varians sampel proyeksinya adalah . Matriks kovarians sampel memuat varians pada diagonal dan kovarians di luar diagonal (jumlah dibagi ). Analisis komponen utama memilih arah dengan varians terbesar. Garis melalui rata-rata dalam arah itu adalah PC1; PC2 tegak lurus padanya. Garis merah adalah , tanda kuning adalah proyeksi, dan batang kuning tebal membentang satu simpangan baku ke tiap sisi rata-rata.
Jumlah varians sejajar dan tegak lurus tetap
Menurut Pythagoras, kuadrat jarak titik dari rata-rata terurai menjadi bagian sejajar dan tegak lurus . Setelah dijumlahkan, varians sepanjang ditambah varians tegak lurusnya sama dengan varians total untuk arah apa pun. Memaksimumkan yang pertama meminimumkan yang kedua. Di antara garis yang melalui rata-rata, PC1 meminimumkan jumlah kuadrat jarak tegak lurus. Garis regresi terhadap meminimumkan jumlah kuadrat residu vertikal. Pada awan renggang kedua arah dapat sangat berbeda.
Mengapa solusinya berupa vektor eigen?
Matriks simetris memiliki dua vektor eigen tegak lurus dengan nilai eigen . Jika dinyatakan dalam basis itu, merupakan rata-rata tertimbang dan , maksimum pada vektor pertama dan minimum pada yang kedua. PC1 dan PC2 mengikuti arah eigen , dengan varians dan . PC1 menyimpan bagian dari total. Dalam praktiknya dekomposisi nilai singular dari matriks data yang dipusatkan menghasilkan arah yang sama.
Satuan mengubah hasil
Varians bergantung pada satuan. Untuk tinggi dalam meter dan berat dalam kilogram, nilai berat lebih bervariasi secara numerik. Itu saja membuat PC1 hampir sejajar sumbu berat. Variabel dengan satuan berbeda biasanya dibakukan dengan mengurangi rata-rata dan membagi dengan simpangan baku. Maka menjadi matriks korelasi . Untuk dua variabel PC1 berada pada 45° (−45° bila ), dengan . Jika , tidak ada arah istimewa.
Hal yang perlu diperhatikan
- Sumbu utama adalah garis. Arahnya hanya ditentukan sampai pada pilihan tanda.
- Untuk banyak variabel, beberapa arah dapat memuat sebagian besar varians sehingga data bisa digambarkan dengan lebih sedikit angka.
Kontrol
- Seret pegangan merah atau putar kenop untuk memutar garis. Saat pegangan difokuskan, tombol panah memutar garis sebesar 1°.
Terkait
Bacaan lanjutan: Wikipedia: Principal component analysis (Bahasa Inggris).