Eliciting Intrinsic Hallucinations in LLMs via Semantically Equivalent Adversarial Attacks
论文研究 RAG 已提供证据时仍会出现的 intrinsic hallucination,提出保持语义等价的自然语言对抗变体生成框架,在白盒、灰盒和黑盒设置下压力测试模型。实验覆盖 5 个开源模型、5 个闭源模型和 3 个数据集,重点检验检索证据存在时答案是否仍然忠实。
INSIGHTAgentic 搜索的质量门槛不应只看召回率或最终答案准确率,还要测同一意图的不同表达是否诱发不受证据支持的生成。可以把语义等价改写加入离线评测,按 query 意图、检索证据和最终 claim 三层记录失败样本,再将高风险模式反馈给重排、拒答和工具路由策略。