《Walking the Embedding Space》研究多模态 RAG 的数据存储提取攻击

论文提出一种针对返回图像的多模态 RAG 系统的自适应黑盒数据提取攻击，将恶意指令嵌入用户输入图像，并通过检索反馈探索嵌入空间。在单次 2500 次查询中，该方法最多重构 611 张放射学图像、566 份文档扫描件和 416 张通用图像，获得的数据存储项数量最高为非自适应基线的 5.6 倍。