CUEing User Simulators: Calibrated User Embeddings for Multi-Turn Benchmarking
CUE 用连续用户表征编码真实交互,再解码成人设指令来驱动用户模拟器,重点校准代理何时失败,而不只模拟说话风格。在 τ²-Bench 的 Gemini 3.5 Flash Lite 配置中,CUE 的成功率偏差为 0.12,对照 RealUserSim 为 0.32;失效模式宏 F1 为 0.62,对照为 0.46,表明不同模拟器会改变评测结论。
INSIGHT社区搜索的多轮追问和复杂需求评测,可以用真实失败会话校准模拟用户,再检验新代理是否修复同类错误。应同时报告总体成功率偏差、任务用户对的一致性以及失败模式,而不能用对话自然度代替有效性。论文也发现部分模型下无模拟人设的基线更接近真人成功率,迁移到 UGC 场景前必须重新校准。