Получить доступ

LoRA и PEFT

Основа с Middle

Дообучение маленькой добавкой к весам вместо всей модели.

Полное дообучение меняет все миллиарды весов — дорого по памяти и времени. LoRA замораживает исходные веса и обучает небольшие матрицы низкого ранга, которые добавляются к слоям. Обучаемых параметров — доли процента, а качество близко к полному дообучению.

Что важно знать

  • QLoRA — LoRA поверх квантованной модели: дообучение модели на 7–8 млрд параметров на одной видеокарте.
  • Несколько адаптеров LoRA для разных задач поверх одной базовой модели.
  • Данные: пары «запрос — идеальный ответ» в формате диалога; качество и разнообразие важнее объёма.
  • Переобучение и «забывание» общих навыков — проверять на общем наборе.
  • Многие провайдеры API предлагают дообучение своих моделей без своей инфраструктуры.

Критерии освоения

Middle ≈ 16 ч

  • Готовит набор данных для дообучения и дообучает открытую модель с LoRA или QLoRA
  • Сравнивает модель до и после на своём наборе и проверяет потерю общих навыков

Практика. Дообучить модель на 7–8 млрд параметров с QLoRA на 1000 примеров извлечения данных и сравнить с исходной и с большой моделью по API.

Senior ≈ 8 ч

  • Решает, оправдано ли дообучение, по ожидаемому выигрышу и полной стоимости

Практика. Подготовить обоснование дообучения против RAG и промптов для реальной задачи с расчётом стоимости и рисков.

Вопросы с собеседований

  • Что такое дообучение модели и LoRA? Middle

    Дообучение — продолжение обучения готовой модели на своих примерах, чтобы закрепить формат, стиль или навык; LoRA обучает небольшие добавочные матрицы вместо всех весов.

Документация

← Вся карта «ИИ-инженер»

Закрытая бета

Знать тему — половина дела

На живом собеседовании sotto слышит вопрос интервьюера и показывает короткий ответ и план. Оставьте контакт — пришлём доступ и промокод.

  • Промокод на 2 часа — сверх пробных 30 минут
  • Программа для Windows — скачать сразу, войти — через Яндекс ID или VK ID
  • Прямая связь с разработчиком: что улучшить — сделаем