02 3.85
Unified Multi-Task Relevance Modeling for E-Commerce: Comparing Task Routing Architectures Across LLMs and Cross-Encoders
Walmart电商相关性建模通常为 query-商品匹配、商品类型相似等六种不同的实体对关系各自训练独立模型，阻碍知识迁移且产生不一致的相关性信号。论文提出统一的多任务相关性框架：在共享的三档相关性标度下，对六个实体对任务联合训练一个模型，并系统比较三种任务路由架构（如何把任务身份传递给共享模型）。核心观察是 encoder 模型与 decoder-only 模型通过不同机制编码任务身份，因此任务路由架构的选择会非对称地影响这两类模型。论文对 LLM 与 cross-encoder 两个家族做了系统对照实验。
INSIGHT相关性是搜索的核心指标（nDCG），社区搜索同样面临 query-帖子、帖子-帖子等多种匹配关系各自建模、信号割裂的问题。这篇工作的可借鉴点是用统一标度加多任务联合训练把多种相关性任务收敛到一个模型，靠任务路由（task identity 注入方式）支撑差异化任务，省去为每种关系单独维护模型。其 encoder 与 decoder-only 对任务身份注入方式敏感度不同的结论很实用：若用 cross-encoder 做相关性精排，任务身份适合走特征或前缀注入；若用 LLM，则需注意 prompt 式任务标识带来的非对称影响，这直接关系到 UGC 搜索相关性模型的选型与多任务设计。
Md Omar Faruk Rokon, Jhalak Nilesh Acharya, Shasvat Desai, Hong Yao, Kuang-chih Lee
arXiv·2026-06-24·Relevance 4 · Novelty 3 · Practical 4 · Evidence 4 · Timely 5
Jinan University