Какую проблему знаний решает RAG и как он уменьшает галлюцинации?
LLM & AIУровень: ПрактикаRAG (Retrieval-Augmented Generation)
Какую проблему знаний решает RAG и как он уменьшает галлюцинации?
Подсказки
- Разложите запрос на поиск кандидатов, отбор контекста и генерацию.
- Как определить, на каком этапе потерян нужный факт, не оценивая всё одной итоговой метрикой?
Ответ
RAG передаёт найденные основания во время ответа, не ограничиваясь сведениями в весах. Это полезно для обновляемой коллекции и данных, отсутствующих в обучении. Но поиск может пропустить факт, документы — противоречить, а генератор — неверно их истолковать. Раздельно оценивайте полноту поиска и подтверждение ответа, сохраняйте происхождение документов, применяйте права доступа до передачи контекста и допускайте ответ о недостатке доказательств.
Источник и лицензия: Skillumen — Awesome AI Engineer Interview Questions · CC0-1.0 · ответ: редакция Quantoros · перевод: Quantoros