在ChatGPT等AI助手中发现了一个安全漏洞，通过顺序的、只读的查询可以泄露敏感的个人数据。即使有聚合操作和最小的群体规模，攻击者也可以通过比较两个相关查询的结果来推断出具体数值，例如员工的薪水。为防止此类差分攻击，需要一个强大的策略层来评估查询历史、维度粒度和累积披露预算等因素，而不是依赖于单个查询的安全性。 AI
影响 凸显了AI助手潜在的隐私风险，需要为用户数据提供更强的数据保护措施。
排序理由 AI产品中的安全漏洞。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p>An aggregate can hide every row and still reveal one person's value.</p> <p>Imagine an AI assistant returns payroll total for a six-person team.</p> <p>The user asks again with one employee excluded.</p> <p>Subtract the two answers and you have that employee's salary.</p> <p>E…