To Answer or to Abstain: Mitigating Search-Agent Hallucinations via Abstention-Aware Reinforcement Learning
AWA-RL 聚焦搜索 Agent 在检索失败时仍被奖励机制诱导编造答案的问题,依据模型对具体查询的先验能力和在线训练观测动态塑造拒答奖励,并提出 RA-F1 衡量能力与可靠性的平衡。相较不拒答基线,绝对精确率最高提升 10.3 个百分点,RA-F1 提升 2.9 个百分点,而原始准确率只小幅下降。
INSIGHT搜索 Agent 的优化目标不能只奖励答对,还要区分“证据不足时拒答”和“有证据却退缩”。可在社区搜索链路中利用检索覆盖度、证据一致性和查询难度动态设定拒答收益,并同时监控准确率、精确率与 RA-F1,避免单纯追求回答率放大幻觉。