Seed1.8 Model Card: Towards Generalized Real-World Agency
ByteDance 发布 Seed1.8 基础模型,目标是通用的真实世界代理能力:从单轮预测扩展到多轮交互、工具使用和多步执行。该模型保持了强大的 LLM 和视觉语言性能,同时支持统一的 agentic 接口——搜索、代码生成与执行、GUI 交互。
查找解读请用站内搜索。
ByteDance 发布 Seed1.8 基础模型,目标是通用的真实世界代理能力:从单轮预测扩展到多轮交互、工具使用和多步执行。该模型保持了强大的 LLM 和视觉语言性能,同时支持统一的 agentic 接口——搜索、代码生成与执行、GUI 交互。
针对 Transformer 中标准全注意力计算量随序列长度二次增长的瓶颈,提出 Switch Attention (SwiAttn),一种动态细粒度混合注意力机制。
该论文提出 MMM4Rec 框架,将 Mamba 状态空间模型引入多模态序列推荐,解决了现有 Transformer 方案在迁移学习中收敛慢和负迁移的问题。
该论文提出 MemoryCD,首个基于真实用户行为(Amazon Review 数据集)的大规模跨域用户记忆基准。
针对注意力机制在长序列推荐中二次复杂度导致的效率瓶颈,提出 HyenaRec 模型,将 Hyena 算子引入序列推荐领域。核心技术是利用 Legendre 正交多项式参数化卷积核,结合门控卷积实现线性复杂度的长程时序依赖建模。
R1-Searcher 提出了一种两阶段强化学习方法,训练 LLM 在推理过程中自主调用外部搜索引擎。第一阶段通过 SFT 初始化模型的搜索调用格式,第二阶段通过 RL(基于结果奖励)训练模型学习何时搜索、搜索什么。
本文首次在生产级 PostgreSQL 兼容数据库中系统评估了 Filter-Agnostic 向量搜索 (FVS) 算法。研究发现,在企业级数据库系统中,常用假设(如距离计算主导开销)并不成立,最优算法取决于选择率和相关性等多维因素。
论文聚焦推荐系统中的点击后转化率 (CVR) 估计问题,指出现有整体空间多任务模型(如 ESMM)存在两个核心缺陷:内在估计偏差 (IEB) 和外在信息偏差 (EIB)。IEB 来源于行为序列分解中的条件概率估计偏差,EIB 来源于训练样本的选择偏差。
OneSearch-V2 是阿里巴巴在工业级生成式搜索框架 OneSearch 基础上的重大升级。
RAG 系统中的幻觉问题严重影响搜索结果的可靠性。本文提出 MARCH 框架,通过三个专业化 Agent(Solver、Proposer、Checker)的协作流水线,利用刻意的信息不对称来避免验证者的确认偏误。
本文提出首个面向搜索排序模型研发的 AI Co-Scientist 框架,自动化完成从创意生成、代码实现到 GPU 训练调度的完整研究流水线。
该论文针对 LLM 在个性化搜索任务中的微调难题,揭示了「知识-行为鸿沟」(Knowledge-Action Gap) 现象:直接用判别式目标微调 LLM 会导致语义坍缩 (Semantic Collapse),注意力出现 sink 现象,模型泛化能力严重退化。
本文提出 MDGR(Masked Diffusion Generative Recommendation),摒弃传统自回归解码范式,采用 masked diffusion 进行生成式推荐。
针对电商社区笔记推荐中 LLM 生成能力未被充分利用的问题,提出 TagLLM 框架,通过用户兴趣手册和多模态 Chain-of-Thought 提取生成细粒度标签,并用知识蒸馏技术提升推理效率。
针对多场景推荐中模型参数成本高且场景多样性建模困难的问题,提出基于互信息的可分解参数生成网络 MI-DPG。核心思路是将加权矩阵分解为场景共享和场景特有的低秩矩阵组合,并通过互信息正则化增强跨场景参数多样性。
本文针对生成式推荐系统(如 TIGER)仅关注语义检索、忽略商业变现的问题,提出 GEM-Rec 统一框架。该框架引入控制 token 将「是否展示广告」与「展示哪个商品」解耦,并设计 Bid-Aware Decoding 机制在推理阶段注入实时出价信号,引导生成偏向高价值商品。
针对稠密检索系统大规模部署中的维度压缩问题,提出 Spectral Tempering 方法。现有 PCA 压缩保留主成分方差但浪费表示容量,而 MRL 在训练时增加开销。
AIGQ 是淘宝首页「猜你想搜」(HintQ)场景的首个端到端生成式 query 推荐框架。传统方法依赖 ID 匹配和共点击启发式,面临语义浅层、冷启动差、偶然发现率低等问题。
提出 TTQ(Test-Time Quantization),一种激活感知的测试时量化方法,无需重训练即可加速 LLM 推理。解决现有激活感知压缩方法依赖校准数据导致的领域偏移问题——在未见过的下游任务上精度下降。TTQ 在推理时动态适配量化参数,实现即时加速。
提出 R3-RAG,通过强化学习训练 LLM 进行逐步推理和检索。方法分两阶段:冷启动训练建立迭代推理-检索模式,然后通过 RL 优化。设计了双奖励机制——结果奖励(答案正确性)和过程奖励(文档相关性),在多跳 QA 任务上显著超过基线,且跨检索器迁移性强。
HAP 提出异构感知自适应预排序方法,发现预排序阶段训练数据中存在梯度冲突问题——困难样本主导训练而简单样本未被充分利用。通过将候选分为不同优化路径,对简单候选使用轻量级模型、对困难候选部署更强模型,在不增加计算开销的情况下提升预排序效果。
本文提出 Mind-ParaWorld (MPW) 评估框架,通过采样真实实体名称合成超出模型知识截止期的未来场景和问题,配合 ParaWorld Engine 生成基于预设事实的搜索结果,从而解决搜索 Agent 评估中的静态基准过时、归因模糊和商用搜索引擎不可复现等问题。
Spotify 提出 GLIDE,一个生产级 Semantic ID 生成式推荐系统,用于播客发现场景。系统将 LLM 的语义推理能力与用户级个性化结合,通过 Semantic ID 表示物品并实现目录锚定生成,解决了 LLM 推荐系统中的幻觉、延迟和个性化三大落地难题。
Spotify 提出 NEO 框架,将预训练 decoder-only LLM 适配为无工具依赖的、目录锚定的统一搜索/推荐/推理生成器。NEO 使用 Semantic ID (SID) 表示物品,通过单一模型同时支持检索、推荐和推理三种行为,避免了工具编排的复杂性。
本文提出 TRUST-SQL,针对真实企业场景中数据库包含数百张表、元数据噪声大的 Unknown Schema 问题。
本文研究了生成式推荐模型 OneRec-V2 的量化推理问题。作者发现 OneRec-V2 的权重与激活值分布特征与 LLM 高度相似,而非传统推荐系统,因此可以直接复用 LLM 领域成熟的 FP8 训练后量化(PTQ)技术。
当前 Deep Research 工具(如 OpenAI DR)能自动综合论文回答查询,但缺乏对用户个人研究兴趣的理解,导致生成的报告内容与用户实际需求脱节。
现有 LLM 搜索范式面临「盲目性-延迟困境」:query 改写不感知检索能力与实时库存,产生无效计划;而 deep search agent 依赖多轮工具调用,延迟达数秒,与工业亚秒级 SLA 不兼容。
现代推荐系统通过聚合多种行为信号(如观看时长、循环播放率、评论概率)来排序候选内容,但这些信号存在异质性偏差——观看时长偏向长视频,循环播放率偏向短视频,评论概率偏向视频而非图片。
本文系统研究了仅基于 prompt(无检索反馈)的单步 LLM query 改写对稠密检索效果的影响。