Переранжирование
EN · RerankingПереранжирование — повторная сортировка найденных фрагментов отдельной моделью по релевантности запросу перед передачей в контекст.Определение на английскомA second-stage retrieval step that takes the top N candidates from a vector or keyword search (typically N=20–100) and reorders them with a more accurate but more expensive model—usually a cross-encoder that scores each candidate against the query jointly. Reranking is the highest-leverage retrieval quality fix for RAG-based agents: a typical setup with rerank moves precision-at-5 from 60% to 85%+ at a few cents per query.
Автор: Max Zeshut
Основатель Agentmelt
Пример
Векторный поиск агента поддержки возвращает 50 кандидатов из базы знаний на запрос. До переранжирования нужная статья попадала в топ-5 лишь в 62% случаев. Добавление реранкера Cohere или Voyage, оценивающего все 50 относительно вопроса клиента и оставляющего топ-5, поднимает полноту топ-5 до 89% — агент отвечает верно гораздо чаще, а общие затраты на токены LLM даже снижаются, потому что меньше повторных попыток по неверному пути.
Часто задаваемые вопросы
- Нужен ли реранкер, если у меня уже хорошие эмбеддинги?
- Даже отличные эмбеддинги плохо справляются с нюансами: синонимы, отрицания, многофактные запросы. Реранкер не заменяет эмбеддинги — он строится на них. Эмбеддинги — для быстрого первого прохода (дёшево, масштабируется до миллионов документов), реранжирование — для точности последней мили на важных кандидатах. Комбинация превосходит любой подход по отдельности.