Что такое системный промпт и как он влияет на поведение модели?
LLM & AIУровень: БазаCore Techniques
Что такое системный промпт и как он влияет на поведение модели?
Подсказки
- Уточните этап: предобучение, адаптация, генерация или оценка.
- Назовите входы, ограничения и один случай, в котором предложенный подход не сработает.
Ответ
Системные инструкции задают роль, правила, ограничения и ожидаемый формат поведения в рамках поддерживаемой иерархии сообщений. Например, они могут требовать отвечать только по переданным материалам или передавать определённые вопросы оператору. Однако это текстовые инструкции для модели, а не изолированная граница безопасности. Недоверенные документы и пользовательский ввод не должны получать полномочия инструкций; критические ограничения проверяют внешним кодом.
Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros