实体
shadow models
shadow models
PulseAugur coverage of shadow models — every cluster mentioning shadow models across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
研究发现：Split-LLM 训练通过梯度模式泄露私有数据
一项关于 split-LLM 训练的新研究揭示了一个关键的隐私漏洞，其中返回的梯度会无意中暴露敏感数据。研究人员发现，尽管初步的隐私检查通过了，但与诱饵数据点相关的零梯度模式允许攻击者识别真实数据行。即使进行了梯度裁剪和噪声注入，这种泄露仍然存在，并可能导致令牌恢复攻击。这些发现突显了在分布式 LLM 训练中平衡效用和隐私的挑战，尤其是在反向通信方面。
-
新的 DUI 方法无需影子模型即可量化数据集使用情况
提出了一种新的数据集使用情况推断（DUI）框架，旨在确定在训练机器学习模型时使用的数据集比例，而无需影子模型或保留数据。该方法生成合成的非成员样本，并将 DUI 视为混合比例估计问题。在大型图像生成模型上的实验证明了其在量化数据集使用方面的有效性，为数据所有者提供了一个实用的解决方案。