实体
Data poisoning attacks against machine learning algorithms
Data poisoning attacks against machine learning algorithms
PulseAugur coverage of Data poisoning attacks against machine learning algorithms — every cluster mentioning Data poisoning attacks against machine learning algorithms across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新理论分析持续学习中的数据投毒
一篇新论文引入了一个理论框架，用于分析持续学习（CL）中的数据投毒攻击和防御。该研究将对手-防御者交互视为一个在线零和博弈，确立了在基于正则化的持续学习中，如果对手以线性比例的任务投毒，并伴随无限噪声或模式变化，则没有任何防御能够成功。该论文还提出了针对不频繁攻击或有界噪声场景的防御措施，包括任务到任务的验证机制以及最小化对投毒特征敏感性的鲁棒防御。
-
新的大型语言模型防御机制通过改写训练数据来对抗投毒攻击
研究人员开发了一种名为“开卷良性改写”（OBBR）的新防御策略，以保护大型语言模型（LLM）免受数据投毒攻击。该方法通过改写训练数据以匹配良性提示，从而有效中和有害内容。OBBR 在安全性方面表现出显著的改进，在各种大型语言模型和已知攻击模式上的平均性能优于现有防御措施 51%。