Guardrails — проверки на входе и выходе модели вокруг вызова LLM: фильтрация запрещённых тем и токсичности, обнаружение и маскирование персональных данных, защита от prompt injection, проверка формата и схемы ответа, проверка опоры ответа на источники, ограничение действий агента. Один системный промпт — не защита.
А ещё Каждая проверка добавляет задержку и ложные срабатывания — их тоже измеряют
Так подсказку видит пользователь sotto на живом собеседовании — за пару секунд, пока вы думаете вслух.
Слои защиты:
Персональные данные особенно важны для российских компаний: 152-ФЗ и требования к трансграничной передаче. Варианты — маскирование перед отправкой, модели, развёрнутые в своём контуре, договоры с провайдерами.
Компромисс: избыточные фильтры раздражают пользователей и ломают легитимные сценарии. Ложные срабатывания и пропуски измеряют на наборе примеров, как любую другую модель.
sotto слышит вопрос интервьюера и показывает короткий ответ и план, как в блоке «Коротко». Оставьте контакт — пришлём доступ и промокод.
sotto