К содержанию
Quantoros

Что такое переранжирование и как оно улучшает RAG?

LLM & AIУровень: ПрактикаRetrieval Techniques

Что такое переранжирование и как оно улучшает RAG?

Подсказки
  • Разложите запрос на поиск кандидатов, отбор контекста и генерацию.
  • Как определить, на каком этапе потерян нужный факт, не оценивая всё одной итоговой метрикой?

Ответ

Первый поиск быстро собирает ограниченное число кандидатов. Более дорогой reranker затем оценивает релевантность пары «запрос — фрагмент» и меняет порядок; cross-encoder совместно обрабатывает оба текста и может учитывать их детальное взаимодействие. Генератору передают лучшие результаты. Компромисс — дополнительная задержка и цена, поэтому размер списка подбирают по измерениям. Переранжирование не вернёт документ, которого не было среди кандидатов.

Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros

Похожие вопросы