ALDEN: Boosting Private Data Extraction from Retrieval-Augmented Generation Systems via Active Learning and Distribution Estimation
针对 RAG 系统私有知识库的数据提取攻击普遍面临「提取率低、命中重复」的问题,本文提出 ALDEN 攻击框架。其一,用主动学习生成多样化的恶意 query,避免反复命中同一区域;其二,观察到底层知识库的数据分布对 query 生成具有指导价值,作者引入一个基于「衰减」的动态算法估计当前知识库的主题分布,使后续 query 更有针对性地覆盖未抽样区域。实验显示该攻击在多个开源 RAG 系统上的数据提取率显著高于此前 baseline。
INSIGHTRAG-based 搜索系统的安全威胁不只来自 prompt injection,还来自「分布估计 + 主动探测」这类需要被防御方系统化建模的攻击:攻击者根据回包内容反推索引主题分布并不断查漏补缺。对运营私有知识库(站内问答、专家内容)的搜索服务,这意味着仅靠 query 级的内容过滤不够,需要在检索层加入 query 多样性监控、按主题/账号的速率限制与差分隐私索引访问审计。