深度解读

深度解读 · 第 5 页

共 769 篇 · 按日期新到旧 · 每页 30 篇 · 第 5 / 26 页

查找解读请用站内搜索。

2026-11-03 3

系统与索引

MemX: Memory-Aware Automatic Parallelism for Cross-Vendor Heterogeneous GPU Training

在多家厂商 GPU 混在一起的集群上训练大模型,MemX 把各卡显存均不均衡也写进搜索目标,并且允许显存小的卡多做重算、显存大的卡不做,从而找到既不 OOM、各卡显存又均匀的并行配置。它给每个候选配置估迭代耗时、峰值显存和各卡显存方差,按权重合成一个分数,分数最小的胜出。

2026-11-02 20

AI 搜索

Contextual Embeddings Beyond the Gold Chunk

上下文 embedding 的训练和评测都默认一个问题在文档里只有一个相关段,这篇论文指出这个假设在 RAG 里不成立。回答一个问题往往还需要交代说的是哪个产品、哪一年的段落,可现有训练把同一文档里答案段以外的段一律当负例,这些佐证段反而被压低。

2026-10-30 4

个性化推荐

Multi-Branch Cooperation Networks for Enhanced Click-Through Rate Prediction in Large-Scale E-Commerce Search

做排序的团队值得读,因为它指出了多分支模型一个常被忽略的浪费:各分支擅长的样本不同,训练时却从不互相学。淘宝拍立淘(拍照搜商品)团队让三个分支在训练中互相纠错:同一条样本上,一个分支判对了用户点不点、另一个判错了,就用判对那个的预测去带判错的那个。

2026-10-29 3

AI 搜索

LTRR: Learning To Rank Retrievers for LLMs

RAG 系统一般只接一个固定的检索器,但不同问题适合的检索器不同,有些问题干脆不检索、只靠模型自己答更好。这篇论文把选检索器当成排序问题:对每个训练问题,记下每个检索器让答案质量比不检索提高了多少,再训练一个排序模型给检索器排名,不检索也是候选之一。