Масштабирование (StandardScaler, MinMaxScaler) нужно моделям, чувствительным к расстояниям и величине весов: линейным с регуляризацией, k-means, kNN, нейросетям. Деревьям оно не нужно. Категории кодируют one-hot (столбец на значение — для небольшого числа значений), target encoding (среднее целевой по категории — для высокой кардинальности, с защитой от утечки) или встроенно (CatBoost, LightGBM).
А ещё Новая категория в продакшене не должна ронять модель — предусмотреть «неизвестно»
Так подсказку видит пользователь sotto на живом собеседовании — за пару секунд, пока вы думаете вслух.
Масштабирование:
Категориальные признаки:
| способ | когда | риск |
|---|---|---|
| one-hot | мало значений | взрыв числа столбцов |
| label / ordinal | деревья или естественный порядок | ложный порядок |
| target encoding | много значений | утечка — считать по фолдам со сглаживанием |
| эмбеддинги | нейросети, очень много значений | нужно обучение |
Pipeline. Все преобразования оборачивают в Pipeline/ColumnTransformer: обучаются только на обучающих данных и одинаково применяются в продакшене — никаких расхождений между обучением и инференсом.
sotto слышит вопрос интервьюера и показывает короткий ответ и план, как в блоке «Коротко». Оставьте контакт — пришлём доступ и промокод.
sotto