2026-05-22 周五 · Generative

独立报告页 · 在站内浏览(含往期切换)→
Generative生成式推荐 · 6 篇Personalization个性化推荐 · 5 篇AI SearchAI 搜索 · 8 篇Agentic智能体搜索 · 10 篇Infra系统与索引 · 8 篇

今日场景社区搜索 (UGC 短文本搜索): 用户在社区平台搜索帖子、问答、评论等 UGC 内容。核心指标是搜索相关性 (nDCG) 和点击率 (CTR)。关注:语义匹配、query 理解、短文本召回、排序模型、LLM 在搜索中的应用。 — 评分 68 篇,入选 6 篇,分数 2.80 – 3.65

本期目录 · 6 篇
  1. 01Access Paths for Efficient Ordering with Large Language Models
  2. 02FlowLM: Few-Step Language Modeling via Diffusion-to-Flow Adaptation
  3. 03HRM-Text: Efficient Pretraining Beyond Scaling
  4. 04Pseudo-Siamese Network for Planning in Target-Oriented Proactive Dialogues
  5. 05Generative Recursive Reasoning
  6. 06Mem-π: Adaptive Memory through Learning When and What to Generate
LEAD STORY · 今日必读 · Snowflake / UChicago / UCLA

Access Paths for Efficient Ordering with Large Language Models

把“用 LLM 按语义排序”抽象为 LLM ORDER BY 算子,系统研究其物理实现:逐项打分(O(N) 次调用)、成对比较、批量外部归并三类。提出语义感知的外部归并排序与带多数投票的快排,并用动态优化器(启发式规则 + LLM-as-Judge + Borda 计数)按数据集自动选最优算法。在 TREC DL20 上外部归并取得 0.719 nDCG@10、自一致优化器 0.724;SembenchMovie 上从逐项打分 0.862 提升到归并排序 0.921、LLM-as-Judge 达 0.924 且成本降 26%;NBA 身高排序成本较冒泡排序降 6×。注:本期为 v3 扩展版(原始版本 2025-09)。

相关 4新颖 3实用 4证据 4时效 3
3.65
综合分 / 5
偏好调整 3.85
KEY INSIGHT · 对业务意味着什么论文证明“没有一种 LLM 排序算法在所有任务上最优”——事实型查询用逐项打分、推理型查询用成对比较,需按数据特征动态选路。对搜索排序的启示:用 LLM 做相关性重排时,与其无脑成对比较,不如引入归并/快排式的分治结构把调用次数从 O(N²) 降到 O(N log N),并用成本模型预估开销(DL20 成本预估误差仅 ±0.02 美元)。LLM-as-Judge 自动选路的思路可直接迁移到重排链路的算法选择。
Fuheng Zhao, Jiayue Chen, Yiming Pan, et al. · 2026-05-21 · arXiv

今日其余入选

5 篇 · 按综合排名
02 3.35

FlowLM: Few-Step Language Modeling via Diffusion-to-Flow Adaptation

FlowLM 把预训练的扩散语言模型通过高效微调转成 flow matching 语言模型:将扩散模型弯曲的采样轨迹重新对齐为直线流,从而用极少训练轮次实现少步生成,质量可比甚至超过 2000 步扩散采样。核心是“扩散到流”的轨迹拉直适配,复用已有扩散权重而无需从零训练流模型。

INSIGHT对要落地“生成式检索/推荐”的团队,扩散类并行生成的最大障碍是推理步数过多、时延高。FlowLM 给出一条复用已有扩散模型权重、只需轻量微调即可把采样步数压到个位数的路径。对短文本社区搜索中用生成式模型并行产出候选/语义 ID 的场景,这种“少步生成”能显著降低在线时延,是把扩散式生成式推荐推向工业部署的关键工程手段。

arXiv·2026-05-21·Relevance 3 · Novelty 4 · Practical 3 · Evidence 3 · Timely 4
03 3.15

HRM-Text: Efficient Pretraining Beyond Scaling

HRM-Text 用分层循环模型替代标准 Transformer,把计算解耦为慢速“策略层”和快速“执行层”,并只在指令-响应对上训练而非海量原始文本;配合 MagicNorm 与 warmup 深度信用分配稳定深层循环、PrefixLM 掩码做任务补全。1B 参数仅用 400 亿 token、1500 美元预算即达 MMLU 60.7%、GSM8K 84.5%、MATH 56.2%、ARC-C 81.9%,训练 token 比标准基线少约 100–900 倍、算力少 96–432 倍,效果可比 2–7B 开源模型。

INSIGHT这篇挑战了“scaling 即一切”的范式——通过架构(分层循环 + 多时间尺度)和数据(只用指令对)双重提效,用极低成本训出可用模型。对搜索/推荐团队的启示:训练垂域专用生成模型(如社区 UGC 语料上的小型生成式 ranker/检索模型)未必需要大规模预训练预算,分层循环 + 指令式数据的组合值得在垂域小模型上验证;其“样本高效”思路对数据稀缺的短文本场景尤其有参考价值。

Guan Wang, Changling Liu, Chenyu Wang, et al.
arXiv·2026-05-21·Relevance 2 · Novelty 4 · Practical 3 · Evidence 4 · Timely 4
04 3.20

Pseudo-Siamese Network for Planning in Target-Oriented Proactive Dialogues

面向目标导向的主动对话(如对话式推荐中把闲聊逐步引向推荐目标),FF-BPSN 用两个结构相同的 Transformer 解码器做双向对话路径规划,生成 [动作, 话题] 子目标序列;前向聚焦模块在融合双向信息时优先前向方向,再据此引导 LLM 生成回复。在 DuRecDial 上 LLaMA-3B 接入后目标达成率从 65.1% 升到 86.4%,DuRecDial 2.0 从 61.4% 升到 79.8%;知识 F1 分别提升约 7 和 14 个百分点。

INSIGHT对话式推荐/搜索助手的瓶颈在“路径规划”——如何把多轮对话稳步导向推荐目标而非答非所问。该工作把规划显式建模为可双向推演的子目标序列,且只需 3B 小模型即可大幅提升达成率,说明规划能力更多来自结构化建模而非模型规模。对社区搜索中的会话式问答/引导式推荐,可借鉴“先规划 [动作,话题] 子目标、再让 LLM 按规划生成”的两段式设计,把可控性与相关性解耦。

arXiv·2026-05-21·Relevance 3 · Novelty 3 · Practical 3 · Evidence 4 · Timely 4
05 2.95

Generative Recursive Reasoning

现有递归推理模型(RRM)多为确定性,只沿单一隐状态轨迹收敛到单一预测。GRAM 把递归隐空间推理改造成概率式多轨迹计算:将推理建模为随机隐轨迹,支持条件生成 p(y|x) 与无条件生成 p(x),并可同时沿“递归深度”和“并行轨迹采样”两个维度扩展,用摊销变分推断训练。在结构化推理和需要多解的约束满足任务上优于确定性递归/循环基线(论文未给出具体数值)。

INSIGHT这是把“生成式 + 多样性”引入隐空间推理的范式探索——单轨迹推理容易陷入单一解,而推荐/检索本质需要多样候选。GRAM 的多轨迹采样思路对“生成式推荐如何产出多样且高质量候选集”有启发:把候选生成视为从隐推理分布并行采样多条轨迹,而非贪心解码单条。但论文偏理论、暂无具体业务指标与开源实现,价值在思路而非即用方案。

Junyeob Baek, Mingyu Jo, Minsu Kim, Mengye Ren, Yoshua Bengio, Sungjin Ahn
HuggingFace·2026-05-19·Relevance 2 · Novelty 5 · Practical 2 · Evidence 2 · Timely 4
06 2.80

Mem-π: Adaptive Memory through Learning When and What to Generate

Mem-π 针对 LLM 智能体的记忆问题,提出“按需生成指导”而非从记忆库检索静态条目:用一个带独立参数的专用模型,依据当前上下文联合决策“何时生成”与“生成什么”,并用决策-内容解耦的强化学习训练,在无用时可主动弃权。在网页导航、终端工具调用、文本具身交互等任务上,相比检索式与既有 RL 记忆基线,网页导航相对提升超 30%。

INSIGHT把“记忆”从“检索静态条目”重构为“按需生成指导”,与生成式范式一致——相似度检索常返回与当前语境错配的旧条目。对会话式搜索/Agentic 推荐,该思路提示:用户长期偏好的“记忆”未必要存成可检索向量,也可由小模型按当前 query 即时生成更贴合的引导。属生成式记忆的早期探索,与本赛道关联偏间接,本期作为来源多样性补充收录(分数 2.90,低于阈值)。

Xiaoqiang Wang, Chao Wang, Hadi Nekoei, ..., Bang Liu, Perouz Taslakian
HuggingFace·2026-05-19·Relevance 2 · Novelty 3 · Practical 3 · Evidence 3 · Timely 4

其他赛道今日

点击切换
Personalization
5
个性化推荐 · 篇入选
AI Search
8
AI 搜索 · 篇入选
Agentic
10
智能体搜索 · 篇入选
Infra
8
系统与索引 · 篇入选

开源雷达

GitHub / HuggingFace 热门 · 8 个项目
ZunhaiSu/OScaR-KV-Quant🏆 OScaR: The Occam's Razor for Extreme KV Cache Quantization in LLMs and Beyond — redefining the accuracy-efficiency Pareto front for X-LLMs KV quantization.C++ · ★ 22 · 2026-05-19 · GitHubNashKnight/LLM-WhiteboardHands-on modules for LLMs: concise implementations for whiteboard-style practice.★ 17 · 2026-05-16 · GitHubc4pt0r/pieRust port of the pi agent harness — coding agent + LLM runtime stackRust · ★ 16 · 2026-05-21 · GitHubinternlm/WildClawBenchWildClawBench Hard, practical, end-to-end evaluation for AI agents — in the wild. WildClawBench is an agent benchmark that tests what actually matters: can an AI agent do real work, end-to-end, without hand-holding? We drop agents into a live OpenClaw environment — the same open-; tags: benchmark:official, benchmark:eval-yaml, task_categories:visual-question-answering, task_categories:image-text-to-text, task_categories:question-answering, language:en, language:zh, license:mitdataset · ★ 59 · 2026-03-24 · HuggingFacezai-org/ImageMiningDataset Card for ImageMining Dataset Description ImageMining is a benchmark for evaluating image mining and knowledge discovery capabilities of multimodal models. Given an image, the task requires models to identify entities, perform multi-step reasoning (often with search-augmen; tags: task_categories:visual-question-answering, task_categories:question-answering, language:en, language:zh, license:cc-by-sa-4.0, size_categories:n<1K, format:parquet, format:optimized-parquetdataset · ★ 3 · 2026-05-05 · HuggingFacezai-org/GLM-OCRpipeline: image-text-to-text; tags: transformers, safetensors, glm_ocr, image-text-to-text, conversational, zh, en, frmodel · ★ 1762 · 2026-01-30 · HuggingFacemoonshotai/Kimi-K2.6pipeline: image-text-to-text; tags: transformers, safetensors, kimi_k25, feature-extraction, compressed-tensors, image-text-to-text, conversational, custom_codemodel · ★ 1317 · 2026-04-14 · HuggingFacebytedance-research/Lancepipeline: any-to-any; tags: Lance, safetensors, multimodal, image-generation, video-generation, image-editing, video-understanding, any-to-anymodel · ★ 549 · 2026-05-15 · HuggingFace