When "Must" Becomes "Maybe": Constraint Weakening in LLM Agent Workflows
论文研究 Agent 工作流在摘要、计划、工单和交接记录中传递约束时的语义退化:原本表示“执行前必须满足”的安全阻塞条件,可能被改写成“可以参考”的普通信息。作者在 1,296 个受控合成回合中比较直接交接与多种变换,发现约束保真度会随中间语言产物的改写而下降,并将问题形式化为行动绑定状态保存。
INSIGHT搜索 Agent 的 query 改写、检索摘要和多轮 handoff 都可能把硬过滤条件弱化,导致违规内容进入排序或答案阶段。线上应把时间、地域、内容安全和权限条件编码为结构化字段,由确定性校验器在每次工具调用前复核;自然语言摘要只承载解释,不应成为唯一的约束载体。