PCA находит новые оси — главные компоненты — вдоль которых данные изменяются сильнее всего, и проецирует данные на первые несколько из них. Применение: сжатие признаков, борьба с мультиколлинеарностью, ускорение моделей, визуализация. Это линейный метод; для визуализации сложной структуры используют нелинейные t-SNE и UMAP, которые сохраняют соседство точек, но искажают расстояния.
А ещё На графике t-SNE размер и расстояние между кластерами почти ничего не значат
Так подсказку видит пользователь sotto на живом собеседовании — за пару секунд, пока вы думаете вслух.
Как работает PCA: центрировать данные → найти собственные векторы матрицы ковариации (или SVD) → упорядочить по собственным значениям → взять первые k.
Сравнение:
| метод | тип | для чего |
|---|---|---|
| PCA | линейный | сжатие признаков, предобработка |
| t-SNE | нелинейный | визуализация локальной структуры |
| UMAP | нелинейный | визуализация, быстрее t-SNE, лучше глобальная структура |
Проклятие размерности: в многомерном пространстве расстояния становятся похожими, методы на расстояниях (kNN, k-means) работают хуже.
sotto слышит вопрос интервьюера и показывает короткий ответ и план, как в блоке «Коротко». Оставьте контакт — пришлём доступ и промокод.
sotto