3.2 PCA — Analiza componentelor principale

Când ai 100 de coloane, PCA găsește câteva „direcții esențiale" care păstrează aproape toată informația — pentru vizualizare, viteză și reducerea zgomotului.

Teorie

Reducerea dimensionalității

Multe coloane spun povești suprapuse (înălțimea în cm și în inch, notele la materii înrudite). PCA construiește componente principale: combinații liniare noi ale coloanelor, alese astfel încât prima componentă să capteze cea mai mare parte din variația datelor, a doua — maximul rămas (perpendiculară pe prima), și așa mai departe.

Intuiție: datele sunt un nor de puncte; PCA rotește axele astfel încât prima axă să treacă prin „lungimea" norului. Dacă norul e plat, a treia dimensiune abia mai contează — o poți tăia.

Varianța explicată — câte componente păstrezi

explained_variance_ratio_ spune ce procent din informație duce fiecare componentă. Regulă practică: păstrezi componentele care cumulează 90–95%. Alternativ, îi ceri direct lui sklearn: PCA(n_components=0.95).

Proiecția în spații reduse

transform proiectează datele pe noile axe; inverse_transform le aduce aproximativ înapoi — diferența este informația pierdută. Proiecția pe primele 2 componente este cel mai comun mod de a desena date cu multe dimensiuni.

Implementarea scikit-learn

from sklearn.decomposition import PCA
from sklearn.preprocessing import StandardScaler
import numpy as np

X = StandardScaler().fit_transform(df)   # PCA cere date standardizate

pca = PCA()
pca.fit(X)
print(pca.explained_variance_ratio_.round(3))          # per componentă
print(np.cumsum(pca.explained_variance_ratio_).round(3))  # cumulat

# păstrăm 95% din informație
pca = PCA(n_components=0.95)
X_redus = pca.fit_transform(X)
print(X.shape, "→", X_redus.shape)

Problemă rezolvată: cifre scrise de mână în 2D

import numpy as np, matplotlib.pyplot as plt
from sklearn.datasets import load_digits
from sklearn.decomposition import PCA
from sklearn.preprocessing import StandardScaler

X, y = load_digits(return_X_y=True)      # (1797, 64)
X_s = StandardScaler().fit_transform(X)

# proiecția 2D
p2 = PCA(n_components=2).fit(X_s)
X2 = p2.transform(X_s)
plt.figure(figsize=(8, 6))
sc = plt.scatter(X2[:, 0], X2[:, 1], c=y, cmap="tab10", s=10)
plt.colorbar(sc); plt.title("Digits în primele 2 componente"); plt.show()
print("Varianță explicată de 2 componente:",
      p2.explained_variance_ratio_.sum().round(3))   # ~0.22

# câte componente pentru 95%?
p95 = PCA(n_components=0.95).fit(X_s)
print("Componente pentru 95%:", p95.n_components_)   # ~40 din 64

Probleme propuse