GRAPE: Let GRPO Supervise Query Rewriting by Ranking for Retrieval
CLIP 这类检索模型遇到中文 query、长文本 query 或图文组合 query 时效果明显下滑,可重训检索器、重算整库向量又太贵。这篇论文不动检索器,只训练一个大模型来改写 query,并用 GRPO 把检索排名直接当作改写的奖励。
查找解读请用站内搜索。
CLIP 这类检索模型遇到中文 query、长文本 query 或图文组合 query 时效果明显下滑,可重训检索器、重算整库向量又太贵。这篇论文不动检索器,只训练一个大模型来改写 query,并用 GRPO 把检索排名直接当作改写的奖励。
问维基百科《欢乐糖果屋》的制片人是谁,答案就在页面信息框的制片一行,可文本抽取把这一格里的两个名字弄丢了,读者模型只看到导演,于是答错。
AI 生成内容让广告主很容易做出大量素材,但每张分到的曝光很少。
在 OneTrans 这类统一 Transformer 的 CTR 模型里,作者在快手 KuaiRand 数据上试了六种位置编码,没有一种比完全不加位置编码更好。
多兴趣召回常见的问题是几个兴趣向量最后指向同一方向。
Meta 新一代广告召回引擎 Andromeda 把接近排序水平的模型用到了召回,对每个符合条件的广告都打分。
给大模型的 n-gram 记忆表做低比特量化时,把精度留给访问最多的行反而比随机挑还差。原因在门控:DeepSeek 的 Engram 这类条件记忆层查出的向量要乘一个门控,常见虚词的门控很小,罕见实体名的门控很大,量化误差按门控放大。
vLLM 的前缀缓存该用哪种淘汰策略,取决于此刻的流量。agent 请求几秒后就带着同样的历史回来,默认的 LRU 正合适;热门系统提示和多轮对话的历史隔很久才回来,要靠优先保护反复被用的块的 S3FIFO 才留得住。作者在 20 种请求混合上实测,两种策略各有输赢。
KV cache 压缩已能把长文档的缓存砍到十分之一,但效果最好的 Attention Matching 给每个保留的键向量加了一个偏置,vLLM 没有地方放它。
向量检索的 HNSW 图索引里,向量本身已经常被量化压小,邻接表里的边反而成了内存大头,但边要在每次查询走图时现场解码,压缩不能拖慢查询。
淘宝拍立淘里,用户拍一件衬衫再说「找条配它的短裤」,要的是搭配而不是同款。传统做法先分意图、再分发到不同召回通道,任何一步分错后面全错。阿里这篇技术报告让一个 2B 视觉语言模型直接读原图和原话,生成商品的 Semantic ID,不需要意图标签。
生成式排序模型一次前向就给所有候选打完分,没有机会再细看、修正。美团和中科大的 Refiner 在这之后再多算几步:给每个候选接一个推理 token,每一步只预测加到原分数上的修正量,原模型完全冻结,只训练 LoRA 和新输出层。
把点击老师和价值老师一起蒸馏进生成式推荐时,每个 token 平分权重并不公平:在 TencentGR 上,学生生成第 1 个 token 时离价值老师的 KL 是离点击老师的 3.13 倍,而且难学的老师在后两个 token 换成了点击老师。
交叉熵只告诉生成式推荐正确 token 是哪个,其他候选谁更好没有任何信号。电子科大的 REGER 把传统序列模型对全部物品的打分,在正确答案的每个前缀上按下一个 token 所属的分叉把物品概率加总再归一化,得到每一步的分叉偏好,让生成模型去对齐。
多数生成式推荐给所有物品同样长度的 SID,热门物品反复为细粒度编码付出成本,缩短编码又会压缩长尾物品的语义。
用手持夹爪(UMI)在野外采机器人示教数据已经很流行,但动作标签准不准,取决于从腕部相机视频里还原夹爪轨迹的那一步。原版 UMI 用单目相机加 IMU(惯性测量单元),单目看不出真实尺度,还要预先建图、贴标记物来稳住。
训练稠密检索时,难负例一般取检索排在前面、但没被标成正例的文档,可排得靠前只说明它和 query 像,说明不了它为什么不该被召回。CA-HNM 借助课程知识图谱查每个候选错在哪:讲的知识点不对、范围偏了或难度级别对不上,只把这类冲突明确的候选留作负例。
多数 RAG 的召回仍靠 BM25 或向量相似度,召回漏掉的证据,生成模型再强也找不回来。DecisionRAG 不用召回模型,而是让一个决策模型像人逛图书馆一样,从主题到页面再到段落逐层往下找,每层的候选放进同一个上下文一起判。
搜索 agent 发出的子查询常常只有几个关键词,只看子查询的 reranker 会把字面相似、对原问题没用的文档排到前面。ACARe 把原问题和 agent 的推理过程一起交给 reranker 判断。
用大模型改写 query 时,常见做法是对所有 query 用同一条指令,但改写往哪个方向写,其实取决于要搜的语料。
想用大模型替换 RAG 里的 reranker,这篇的结论是先把现有 reranker 调好。
多数线上排序模型先把用户行为序列压成一个固定向量,再交给特征交叉模块,之后的交叉层就看不到具体是哪几次点击、哪几次加购。阿里淘宝的 HiRank 把行为序列一直保留到主干的每一层,并让长期历史的检索 query 从最近的行为序列生成,而不是从年龄、性别这类静态画像生成。
CTR 模型的输入端有三种常见删减,即丢掉质量差的训练样本、关掉没用的特征、剪掉 embedding 里没用的维度,以往的方法一次只做其中一种。深圳大学等单位的这篇论文指出,三者其实是同一个动作,都是给同一个 embedding 张量乘一个掩码,只是粒度不同。
广告系统里,用最近几小时的新数据给 CTR 模型做一次校准,通常被当成只赚不赔的例行步骤。这篇论文在 Avazu 十天的广告日志上逐天检验后发现,用前 6 小时数据拟合的校准器,约三分之一的时候反而让校准误差变大,最坏的一次翻了一倍。
广告自动出价系统里,PID(比例-积分-微分)控制器根据花费进度不断调整出价,但同一套控制参数要服务几十万个预算、周期、流量各不相同的广告计划。
流量尖峰时每个服务各自降级,单个服务活下来了,整个产品效果却可能崩掉。微软的 HiLO 把降级从服务级提到产品级:事先定好几个经过验证的产品状态,每个状态规定每个服务降到哪一档,比如关掉某些特征、减少扇出或换更便宜的模型;运行时各服务上报负载,中央控制器据此选一个状态下发。
一条多模态查询要先查文本向量、再取对应的图片向量,两次近邻检索都很快,慢的是两份向量分在不同存储层时的那次搬运。CoLoc 不改向量也不改索引,只调整数据放在哪一层:经常被同一条查询一起用到的向量尽量放在同一层。==它优化的是数据放在哪,而不是在哪里搜==。
分布式向量库的副本能保证查得到,却不能保证查到的是真的:被攻破的副本可以返回签名合法、内容被篡改的近邻结果。
长上下文推理里最占显存的往往是每层各存一份的 KV 缓存(每个历史 token 的键和值)。
无损压缩 KV 缓存的好处,大半被解压这一步吃掉了:以前的做法搬到显卡上先解压回原样,注意力每次仍读未压缩的数据。