Получить доступ

Как вы строите признаки для модели?

MiddleОсновы машинного обучения
Ещё спрашивают так:
  • Что такое feature engineering?
  • Как кодировать категориальные признаки с большим числом значений?
Коротко

Признаки часто важнее выбора модели. Источники: знание предметной области (доля возвратов клиента, время с последней покупки), агрегаты по истории (среднее, число событий за окна), время (день недели, праздники, сезонность), взаимодействия и отношения признаков, текст и категории (частоты, target encoding, эмбеддинги). Главное правило — признак должен быть доступен на момент предсказания, иначе утечка.

  • Агрегаты считаются только по данным до момента предсказания
  • Target encoding — с регуляризацией и внутри фолдов кросс-валидации
  • Бустинги сами ловят нелинейности, линейным моделям нужны преобразования

А ещё Признаки проверяют на валидации, а не на интуиции: много признаков — шум и переобучение

Так подсказку видит пользователь sotto на живом собеседовании — за пару секунд, пока вы думаете вслух.

Подробно

Типы признаков:

типприёмы
числовыелогарифм для хвостов, биннинг, отношения
категориальныеone-hot, частоты, target encoding, CatBoost нативно
времякомпоненты даты, давность, циклическое кодирование
историяагрегаты за окна 7, 30, 90 дней, тренды
текстдлина, ключевые слова, TF-IDF, эмбеддинги
геоданныерасстояния, плотность объектов рядом

Утечки: агрегат посчитан с учётом будущего; признак отражает решение, принятое после события; target encoding на всей выборке.

Отбор: важность признаков, SHAP, удаление и проверка на валидации, стабильность во времени.

Что хотят услышать

  • Признаки из предметной области и истории.
  • Доступность на момент предсказания.
  • Проверка на валидации и отбор.

Связанные вопросы

Закрытая бета

Подсказки на собеседовании — в реальном времени

sotto слышит вопрос интервьюера и показывает короткий ответ и план, как в блоке «Коротко». Оставьте контакт — пришлём доступ и промокод.

  • Промокод на 2 часа — сверх пробных 30 минут
  • Программа для Windows — скачать сразу, войти — через Яндекс ID или VK ID
  • Прямая связь с разработчиком: что улучшить — сделаем