Как сочетаются гибридный retrieval и последующее переранжирование?
LLM & AIУровень: ПрактикаRAG (Retrieval-Augmented Generation)
Как сочетаются гибридный retrieval и последующее переранжирование?
Подсказки
- Разложите запрос на поиск кандидатов, отбор контекста и генерацию.
- Как определить, на каком этапе потерян нужный факт, не оценивая всё одной итоговой метрикой?
Ответ
Гибридный первый этап объединяет лексические и векторные результаты, например через RRF, чтобы охватить и точные названия, и перефразировки. На втором этапе более дорогая модель совместно оценивает запрос с каждым кандидатом и меняет порядок. Первый этап нацелен на покрытие при умеренной цене, второй — на точность ранжирования. Reranker не может восстановить документ, которого нет в списке кандидатов; размеры списков подбирают по recall и задержке.
Источник и лицензия: Skillumen — Awesome AI Engineer Interview Questions · CC0-1.0 · ответ: редакция Quantoros · перевод: Quantoros