Что именно считается галлюцинацией и почему она опасна читателю?
LLM & AIУровень: ПрактикаEvaluation
Что именно считается галлюцинацией и почему она опасна читателю?
Подсказки
- Уточните угрозу: ошибочный факт, недоверенная инструкция или небезопасное действие?
- Разделите проверки входа, ограничение полномочий и проверку результата; подумайте о ложных срабатываниях.
Ответ
Это материал, не подтверждённый релевантными основаниями или противоречащий фактам либо входному контексту. Необязательно уверенный: осторожно сформулированная вымышленная ссылка тоже неверна. И наоборот, истинный внешний факт может быть неуместным добавлением в якобы точное резюме документа. Беглость речи не доказывает обоснованность; проверяйте отдельные утверждения и ссылки, различая фактическую правильность и верность предоставленному источнику.
Источник и лицензия: Skillumen — Awesome AI Engineer Interview Questions · CC0-1.0 · ответ: редакция Quantoros · перевод: Quantoros