Ethan Hsu

机器学习中的Rashomon集提供鲁棒性但增加隐私风险

一篇新论文探讨了机器学习中“Rashomon集”的复杂影响，这些集是多个近乎最优模型的集合，而不是单个模型。虽然这些多样化的集合可以通过允许从业者在某个模型被泄露时切换模型来增强鲁棒性，但它们也增加了训练数据信息泄露的风险。该研究在理论上和经验上分析了鲁棒性和隐私之间的这种权衡，并强调Rashomon集在轻微分布变化下保持稳定，因此不需要立即重新计算。研究结果强调了Rashomon集的双重性质，为开发值得信赖的机器学习系统带来了机遇和挑战。