Зачем нужен reranking?
Reranking — это техника повышения качества семантического поиска путём повторной сортировки результатов специализированной моделью. Векторный поиск (первый этап) быстрый, но приближённый — сравнивает эмбеддинги, не анализируя глубоко содержание. Reranker (второй этап) берёт вопрос и каждый результат, анализирует их вместе и оценивает релевантность с гораздо большей точностью. Это как разница между просмотром обложек книг и чтением аннотаций.
Как работает reranking?
Pipeline поиска с reranking: (1) векторный поиск возвращает top-K результатов (например, 50–100), (2) reranker анализирует каждый результат в контексте вопроса и присваивает оценку релевантности, (3) результаты сортируются по новой оценке, (4) top-N (например, 5–10) попадает к модели LLM как контекст. Reranker медленнее векторного поиска (анализирует пары текст-вопрос), но обрабатывает только предварительно отфильтрованные результаты, поэтому существенно не влияет на задержку.
Влияние на качество RAG
Добавление reranking в pipeline RAG повышает точность на 15–30% — это один из наиболее эффективных способов улучшить качество без изменения генеративной модели. Reranking особенно ценен, когда: документы в базе тематически схожи (например, регламенты, процедуры), вопросы неоднозначны, база знаний велика (тысячи документов) или требуется высокая точность (комплаенс, аудит). Cross-encoder reranker'ы достигают наилучших результатов, но специализированные модели (Cohere Rerank, BGE Reranker) предлагают хороший баланс качества и производительности.