К содержанию
Quantoros

Как устроена базовая RAG-система?

LLM & AIУровень: БазаCore Concepts

Как устроена базовая RAG-система?

Подсказки
  • Разложите запрос на поиск кандидатов, отбор контекста и генерацию.
  • Как определить, на каком этапе потерян нужный факт, не оценивая всё одной итоговой метрикой?

Ответ

Офлайн документы извлекают, очищают, делят на фрагменты и индексируют вместе с метаданными. При запросе ищут подходящие фрагменты, при необходимости переранжируют их и собирают ограниченный контекст для LLM. Генератор формирует ответ и ссылки на источники. Ключевые компоненты — загрузчик, разбиение, индекс, retriever и генератор; векторная база полезна для семантического поиска, но не является обязательным условием RAG.

Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros

Похожие вопросы