RAG

Основа

Ответы модели на основе ваших данных — поиск, сборка контекста, генерация со ссылками.

RAG (retrieval-augmented generation) — модель отвечает не «из памяти», а по найденным в ваших данных фрагментам. Так модель узнаёт о внутренней документации, свежих данных и конкретном клиенте, а ответы можно снабдить ссылками на источники.

индексация:  документы → очистка → фрагменты → эмбеддинги → индекс
запрос:      вопрос → поиск → реранкинг → промпт с фрагментами → ответ со ссылками

RAG — самый частый тип LLM-проектов в компаниях: поддержка, база знаний, поиск по договорам и регламентам. Простую версию собирают за день; качественную — месяцами, и почти вся работа — в данных и поиске.

Темы этапа

Подготовка данных и разбиение на фрагменты Основа
Извлечение текста из документов, очистка, чанкинг и метаданные.
Качество RAG Основа
Почему RAG отвечает плохо и как это найти — поиск, контекст, генерация, оценка.
Длинный контекст против RAG Полезно знать
Когда можно просто положить документы в контекст, а когда нужен поиск.

Вопросы с собеседований

Что такое RAG и как он устроен? Junior
RAG — модель отвечает по найденным документам: сначала поиск релевантных фрагментов, затем генерация ответа с ними в контексте.
Когда использовать RAG, а когда дообучение модели? Middle
RAG — когда нужны знания (факты, документы, свежие данные); дообучение — когда нужно поведение (формат, стиль, навык, предметный язык).
Зачем RAG, если у моделей контекст на сотни тысяч токенов? Middle
Длинный контекст не заменяет поиск: стоимость и задержка растут с каждым токеном, качество падает на длинных входах (модель хуже использует информацию из середины — lost in the…

← Вся карта «ИИ-инженер»

Закрытая бета

Знать тему — половина дела

На живом собеседовании sotto слышит вопрос интервьюера и показывает короткий ответ и план. Оставьте контакт — пришлём доступ и промокод.

Промокод на 2 часа — сверх пробных 30 минут
Программа для Windows — скачать сразу, войти — через Яндекс ID или VK ID
Первыми узнаете о версии для Mac — пока sotto только для Windows
Прямая связь с разработчиком: что улучшить — сделаем