Что такое переранжирование и как оно улучшает RAG?
LLM & AIУровень: ПрактикаRetrieval Techniques
Что такое переранжирование и как оно улучшает RAG?
Подсказки
- Разложите запрос на поиск кандидатов, отбор контекста и генерацию.
- Как определить, на каком этапе потерян нужный факт, не оценивая всё одной итоговой метрикой?
Ответ
Первый поиск быстро собирает ограниченное число кандидатов. Более дорогой reranker затем оценивает релевантность пары «запрос — фрагмент» и меняет порядок; cross-encoder совместно обрабатывает оба текста и может учитывать их детальное взаимодействие. Генератору передают лучшие результаты. Компромисс — дополнительная задержка и цена, поэтому размер списка подбирают по измерениям. Переранжирование не вернёт документ, которого не было среди кандидатов.
Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros