К содержанию
Quantoros

Как сочетаются гибридный retrieval и последующее переранжирование?

LLM & AIУровень: ПрактикаRAG (Retrieval-Augmented Generation)

Как сочетаются гибридный retrieval и последующее переранжирование?

Подсказки
  • Разложите запрос на поиск кандидатов, отбор контекста и генерацию.
  • Как определить, на каком этапе потерян нужный факт, не оценивая всё одной итоговой метрикой?

Ответ

Гибридный первый этап объединяет лексические и векторные результаты, например через RRF, чтобы охватить и точные названия, и перефразировки. На втором этапе более дорогая модель совместно оценивает запрос с каждым кандидатом и меняет порядок. Первый этап нацелен на покрытие при умеренной цене, второй — на точность ранжирования. Reranker не может восстановить документ, которого нет в списке кандидатов; размеры списков подбирают по recall и задержке.

Источник и лицензия: Skillumen — Awesome AI Engineer Interview Questions · CC0-1.0 · ответ: редакция Quantoros · перевод: Quantoros

Похожие вопросы