Методы снижения размерности

PCA линейный и детерминированный: находит направления максимальной дисперсии, быстро применяется к новым объектам, хорошо подходит для сжатия признаков перед моделью или поиском, шумоподавления и анализа. Ограничение: не видит нелинейную структуру. t-SNE создан для визуализации в 2-3 измерения: сохраняет соседства, но искажает расстояния между кластерами и их размеры, зависит от perplexity и сида, новые точки не проецирует; в пайплайн его не ставят. UMAP быстрее, лучше держит глобальную структуру и умеет transform, поэтому его иногда используют и как шаг перед кластеризацией, но он стохастичен и тоже искажает расстояния. Автоэнкодеры дают нелинейное сжатие и подходят для изображений и сложных данных, но требуют много данных и настройки. Перед t-SNE часто делают PCA до 50 компонент, чтобы убрать шум и ускорить расчёт. Качество снижения оцениваю по задаче: доля объяснённой дисперсии, метрика следующей модели, recall поиска.