Nautilus Compass: Black-box Persona Drift Detection for Production LLM Agents
生产环境的 LLM 编码 Agent 在长会话中会出现 persona drift:忘记用户约束、重复犯错、捏造此前的「共识」。已有的白盒方法(如 persona vectors)需要模型权重,对 Claude/GPT-4 等闭源 API 不可用。Nautilus Compass 提出一种黑盒检测方法:完全在 prompt 文本层操作,用 BGE-m3 把用户 prompt 与行为锚文本做余弦相似度,再用加权 top-k 平均聚合。论文称这是公开 Agent memory 方案(对比 Mem0、Letta、Cognee、Zep、MemOS 等)中唯一不在索引时调用 LLM 抽事实/建图的,原文直接嵌入,落地为 Claude Code 插件 + MCP A2A 服务。
INSIGHT对社区搜索 Agent 的核心启示:当 Agent 多轮处理用户查询、改写、点击反馈时,必须持续监测它是否「漂移」出最初的用户意图。黑盒 + 文本层 + 直接嵌入的设计有三个工程优势:1) 不依赖模型内部,可在 Claude/GPT-4 调用链上做监控;2) 索引时零 LLM 调用,省钱、低延迟,适合规模化;3) 用 BGE-m3 等开源 embedding 即可部署,复用既有向量检索基建。对短文本社区搜索来说,可以把它包装成「会话健康度指标」,作为长会话 Agent 的运行时护栏。