Caraman at SemEval-2026 Task 8: Three-Stage Multi-Turn Retrieval with Query Rewriting, Hybrid Search, and Cross-Encoder Reranking
论文针对多轮 RAG 场景下后续问题的上下文依赖问题,提出三段式检索流水线:(1) 用 LoRA 微调的 Qwen2.5-7B 把 follow-up 问题改写为独立 query,(2) BM25 与稠密检索通过 RRF 融合得到混合候选集,(3) 用 BGE-reranker-v2-m3 做 cross-encoder 重排。系统在 SemEval-2026 Task 8 (MTRAGEval) 官方测试集上 nDCG@5 = 0.531,在 38 个参赛系统中排第 8 名,验证了改写+混合+重排在多轮检索任务上的有效组合。
INSIGHT这是工业搜索召排架构的标准组合(rewriter → hybrid retrieve → cross-encoder rerank)首次在多轮场景的公开 benchmark 上被系统化验证。三个值得借鉴的工程点:(a) 用小模型 LoRA 改写而非纯 prompt,把多轮上下文显式压成独立 query,避免稠密向量的长上下文衰减;(b) BM25 与稠密的 RRF 融合在多领域(多 domain)下比单一检索更稳健;(c) BGE-reranker-v2-m3 作为开源 cross-encoder 已经足以在多领域取得高 nDCG,团队不必从零训练 reranker。