Получить доступ

Как решить задачу классификации текстов — классическим ML, дообучением BERT или LLM?

MiddleМодели машинного обучения
Ещё спрашивают так:
  • Что такое TF-IDF?
  • Как классифицировать обращения клиентов?
Коротко

Три уровня, выбор — по объёму разметки, требованиям к качеству и стоимости: TF-IDF + линейная модель — быстрая и дешёвая базовая линия, хороша при тысячах размеченных примеров; эмбеддинги или дообученный BERT-подобный энкодер — лучшее качество на русском при достаточной разметке, дёшево в работе; LLM с промптом — почти без разметки, быстрый старт, но дороже и медленнее на каждый запрос. Частая схема: LLM размечает данные, маленькая модель обучается на них и работает в продакшене.

  • Сначала базовая линия на TF-IDF — она часто удивительно сильна
  • Для русского — модели, обученные на русском (ruBERT и аналоги)
  • Метрики по классам: при дисбалансе важны F1 и полнота редких классов

А ещё Разметка и её качество важнее архитектуры

Так подсказку видит пользователь sotto на живом собеседовании — за пару секунд, пока вы думаете вслух.

Подробно

Сравнение:

подходразметкакачествоцена работы
TF-IDF + логистическая регрессиятысячибазовоеочень низкая
эмбеддинги + классификаторсотни — тысячихорошеенизкая
дообученный энкодертысячивысокоенизкая, нужен GPU для обучения
LLM с примерамидесяткивысокое, без обучениявысокая на запрос

Практика: анализ ошибок по классам, проверка согласия разметчиков, поиск дублей между обучением и тестом, мониторинг дрейфа тем.

Что хотят услышать

  • Спектр подходов и критерии выбора.
  • Базовая линия и метрики по классам.
  • Роль разметки и комбинирование LLM с маленькой моделью.

Связанные вопросы

Закрытая бета

Подсказки на собеседовании — в реальном времени

sotto слышит вопрос интервьюера и показывает короткий ответ и план, как в блоке «Коротко». Оставьте контакт — пришлём доступ и промокод.

  • Промокод на 2 часа — сверх пробных 30 минут
  • Программа для Windows — скачать сразу, войти — через Яндекс ID или VK ID
  • Прямая связь с разработчиком: что улучшить — сделаем