Adya Agrawal

新的TRAP基准揭示AI代理泄露敏感数据，并提出隔离解决方案 · 跟踪3个来源

研究人员推出了TRAP，这是一个旨在评估AI代理在完成任务的同时抵抗隐私提取能力的新基准。该基准评估了任务准确性和数据泄露之间的权衡，发现当前专有和开源模型都存在显著的隐私泄露。现有的基于提示的防御措施只能提供部分解决方案，并且常常以牺牲任务性能为代价。一种名为结构化私有字段隔离的新方法在不影响准确性的情况下防止泄露方面显示出潜力。