Получить доступ

Что такое вызов инструментов (tool calling) и агенты?

MiddleИнструменты и агентыAPI языковых моделей
Ещё спрашивают так:
  • Как LLM вызывает функции?
  • Чем агент отличается от обычного чат-бота?
  • Как дать модели доступ к API или базе данных?
Коротко

Модель получает описания инструментов (имя, параметры по схеме) и вместо текста может вернуть запрос на вызов; вызывает их код приложения и отдаёт результат обратно модели.

  • Агент — цикл: модель решает, какой инструмент вызвать, видит результат, решает дальше, пока задача не решена
  • Нужны лимиты шагов, логирование, проверка аргументов и подтверждение опасных действий

А ещё Сама модель ничего не выполняет — все права и риски на стороне вашего кода

Так подсказку видит пользователь sotto на живом собеседовании — за пару секунд, пока вы думаете вслух.

Подробно

Как работает tool calling:

  1. Приложение передаёт модели запрос пользователя и список инструментов с JSON-схемами параметров: get_order_status(order_id), search_docs(query).
  2. Модель решает, нужен ли инструмент, и возвращает его имя и аргументы.
  3. Приложение проверяет аргументы, выполняет функцию и добавляет результат в диалог.
  4. Модель формирует ответ или запрашивает следующий инструмент.

Агент — когда этот цикл продолжается несколько шагов и модель сама планирует: найти документ → вытащить данные → посчитать → записать результат.

Что важно в продакшене:

  • лимиты — число шагов, время, бюджет токенов, иначе агент может зациклиться;
  • минимальные права — инструмент делает только необходимое, с правами текущего пользователя;
  • проверка аргументов и подтверждение человеком для необратимых действий (оплата, удаление, отправка писем);
  • логирование каждого шага для отладки;
  • понятные описания инструментов — модель выбирает их по описанию.

Чем меньше инструментов и шагов, тем надёжнее. Часто фиксированный конвейер (сначала поиск, потом ответ) лучше полностью свободного агента.

Что хотят услышать

  • Механика: описание, запрос вызова, выполнение кодом, результат обратно.
  • Определение агента как цикла.
  • Риски и меры: лимиты, права, подтверждения, логи.

Частые ошибки

  • Считать, что модель сама выполняет код или запросы.
  • Давать агенту широкие права без подтверждения действий.

Что спросят дальше

Связанные вопросы

Закрытая бета

Подсказки на собеседовании — в реальном времени

sotto слышит вопрос интервьюера и показывает короткий ответ и план, как в блоке «Коротко». Оставьте контакт — пришлём доступ и промокод.

  • Промокод на 2 часа — сверх пробных 30 минут
  • Программа для Windows — скачать сразу, войти — через Яндекс ID или VK ID
  • Прямая связь с разработчиком: что улучшить — сделаем