Что делать, если агент выдумывает возможности инструментов или передаёт неверные аргументы?
LLM & AIУровень: ПрактикаTroubleshooting Scenarios
Что делать, если агент выдумывает возможности инструментов или передаёт неверные аргументы?
Подсказки
- Уточните угрозу: ошибочный факт, недоверенная инструкция или небезопасное действие?
- Разделите проверки входа, ограничение полномочий и проверку результата; подумайте о ложных срабатываниях.
Ответ
Уточните названия, назначение, типы, диапазоны и ограничения инструментов; добавьте характерные примеры. Используйте структурированные вызовы и независимо валидируйте параметры, существование объектов и права доступа до выполнения. Возвращайте понятную ошибку, по которой можно исправить запрос. Корректный JSON не означает семантически допустимую операцию. При устойчивых ошибках помогают улучшение интерфейса и обучение на правильных вызовах, проверенные на отдельном наборе.
Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros