Модель не помнит прошлые запросы — «память» строит приложение.
| вид | как реализуют |
|---|---|
| история диалога | последние сообщения целиком, старые — резюме |
| рабочая память агента | заметки и план во внешнем хранилище, а не в контексте |
| долговременная память пользователя | извлечённые факты с поиском по ним при новом диалоге |
Что важно знать
- Каждое сообщение истории оплачивается в каждом следующем запросе.
- Резюме теряет детали — важные факты выносят отдельно.
- Неверный факт в памяти портит все будущие ответы: нужны проверка, обновление и удаление.
- Пользователь должен видеть и удалять то, что ассистент о нём помнит.