实体
Product-of-Experts (PoE)
Product-of-Experts (PoE)
PulseAugur coverage of Product-of-Experts (PoE) — every cluster mentioning Product-of-Experts (PoE) across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的极小极大博弈框架应对 AI 蒸馏攻击
研究人员开发了一个极小极大博弈框架来研究蒸馏攻击，在这种攻击中，有用的模型输出也可能促进模仿。该框架包括学生的自适应评估和教师的防御策略，该策略会抑制对蒸馏有价值的输出。一项实证研究表明，与被动评估所暗示的相比，自适应学生能够恢复显著更多的能力，从而缩小了昂贵防御与一种更简单、更便宜的称为专家产品（PoE）的防御之间的鲁棒性差距。研究结果表明，阻止强大的蒸馏仍然具有挑战性，并且应该针对自适应学生来评估防御措施。
-
新的“蒸馏博弈”框架揭示模型模仿风险
研究人员开发了一个名为“蒸馏博弈”的新框架，用于研究模型效用与模仿风险之间的权衡。该框架将师生模型之间的交互建模为一个极小极大博弈。该研究引入了一种自适应评估规则和一种防御模板，从而提出了一种结合教师模型和代理学生模型的专家乘积（PoE）防御。