PulseAugur
中
实时 08:39:10
English(EN) Certified in Theory, Broken in Practice: Assumption Gaps in Cryptographic Model Certification

新研究揭示密码模型认证协议中的缺陷

作者 PulseAugur 编辑部 · [1 个来源] ·

一篇新发表在arXiv上的论文揭示了当前密码模型认证（CMC）协议的一个关键缺陷。研究人员证明，这些旨在审计机器学习模型的隐私和准确性而不泄露敏感数据的协议可能被利用。攻击者可以精心设计训练数据，制造出在审计时表现准确且公平，但在实际数据上却表现出病态行为的模型。该论文提出了新的、严格的安全定义和一个通用的协议模板，以解决这些假设差距，并指导设计更安全的审计框架。 AI

影响 强调了隐私保护机器学习审计中潜在的漏洞，需要更强大的安全定义以实现实际部署。

排序理由 该集群包含一篇详细介绍新研究发现和拟议协议的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新研究揭示密码模型认证协议中的缺陷

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Carter Luck, Olive Franzese-McLaughlin, Elisaweta Masserova, Akira Takahashi, Antigoni Polychroniadou, Nicolas Papernot ·

    Certified in Theory, Broken in Practice: Assumption Gaps in Cryptographic Model Certification

    arXiv:2607.21839v1 Announce Type: cross Abstract: Privacy-preserving machine learning auditing protocols allow auditors to assess models for properties such as accuracy or fairness, without revealing their internals or training data. This makes them especially attractive for audi…

相关实体

相关话题