02 3.15
AGRec: Adapting Autoregressive Decoders with Graph Reasoning for LLM-based Sequential Recommendation
论文针对 LLM 做生成式序列推荐的一个结构性短板：自回归解码器擅长建模用户的序列行为，却难以利用被广泛证明有用的图结构 user-item 交互信息。AGRec 让 LLM 解码器与图推理结合——用一个辅助 GNN 模型去增强 LLM 的解码 logits，从而优化 token 生成；并提出 rankable finite state machine 解决两个难题：一是让自回归生成与'直接预测 user-item 相似度的判别式解码器'对齐，二是缓解 token homogeneity（LLM 倾向生成前缀 token 相似的物料，导致 beam search 搜索空间变窄）。论文发表于 ACL 2025 Findings，实验显示 AGRec 在序列推荐上超过 SOTA 基线。
INSIGHTAGRec 的价值在于给出了一种 LLM 生成式推荐 + GNN 协同信号的融合范式：LLM 与 GNN 在不同用户域各有所长，用 GNN logits 去校正 LLM 解码分布，比单纯让 LLM 端到端生成更能吃到图结构里的协同过滤信息。rankable finite state machine 针对 token homogeneity 收窄 beam search 这一生成式推荐/检索的共性痛点，对做 Semantic ID / 生成式召回的团队尤其有参考价值——当物料 token 词表前缀高度同质时，beam search 容易塌缩，引入可排序的状态约束是一条可借鉴的解法。
Xinfeng Wang, Jin Cui, Fumiyo Fukumoto, Yoshimi Suzuki
Semantic Scholar·2025-08-01·Relevance 3 · Novelty 4 · Practical 3 · Evidence 3 · Timely 2