Как устроена базовая RAG-система?
LLM & AIУровень: БазаCore Concepts
Как устроена базовая RAG-система?
Подсказки
- Разложите запрос на поиск кандидатов, отбор контекста и генерацию.
- Как определить, на каком этапе потерян нужный факт, не оценивая всё одной итоговой метрикой?
Ответ
Офлайн документы извлекают, очищают, делят на фрагменты и индексируют вместе с метаданными. При запросе ищут подходящие фрагменты, при необходимости переранжируют их и собирают ограниченный контекст для LLM. Генератор формирует ответ и ссылки на источники. Ключевые компоненты — загрузчик, разбиение, индекс, retriever и генератор; векторная база полезна для семантического поиска, но не является обязательным условием RAG.
Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros