Pratiksha Thaker

新研究通过“未见类别”成员推理攻击解决人工智能安全问题

一篇新研究论文在成员推理攻击（MIA）中引入了“未见类别”设置，这是人工智能安全和数据审计的关键工具。现有的MIA在实际场景中常常失败，因为它们需要访问有害内容的样本，而审计员可能在法律或道德上受到限制而无法获取。该论文证明，在这一新设置下，分位数回归攻击的性能显著优于最先进的方法，真实阳性率提高了11倍。这项工作突显了当前MIA工具的一个关键限制，并为致力于实际人工智能安全应用的从业者敲响了警钟。