新指标PCER审计差分隐私机器学习中的公平性

研究人员为差分隐私机器学习系统引入了一个新的群体公平性标准，称为隐私成本公平比（PCER）。PCER解决了差分隐私机制（如DP-SGD）可能不成比例地增加某些人口统计群体的隐私成本，从而导致更广泛的准确性差异的问题。通过将公平性框架化为补偿性的，PCER认为承担更高隐私暴露的群体应获得更大的系统收益。该指标仅需要每组的准确性数据，可用作事后审计工具，以揭示基于结果的指标所忽略的公平性问题，如在COMPAS数据集上的演示所示，该数据集揭示了一个受保护群体遭受的双重不利。 AI

影响 引入了一个新的指标来审计隐私保护机器学习中的公平性，有可能改善公平的结果。

排序理由 学术论文，介绍了一种用于差分隐私机器学习的新指标。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• COMPAS
• differential privacy
• DP SGD
• machine learning
• natural language processing
• Privacy Cost Equity Ratio

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →