已开发出新的理论框架来分析持续学习（CL）中的数据投毒攻击和防御。研究人员将对手和防御者之间的交互构建为在线零和博弈，并确定了一个性能极限，即如果对手投毒了线性比例的任务，防御就会失败。该研究还探讨了不频繁攻击或有界噪声的情况，前者提出了一种任务到任务的验证机制，后者提出了一种鲁棒的防御机制，以最小化对投毒特征的敏感性。 AI
影响 为理解和减轻持续学习系统中的数据投毒提供了理论基础，这对于LLMs和图像识别至关重要。
排序理由 学术论文，详细介绍了分析持续学习中数据投毒的新理论框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
