一篇新的研究论文详细介绍了一种名为“间接数据投毒”的新颖方法，该方法可以通过污染开放数据集来大规模引入科学欺诈。这种攻击利用了从公共存储库检索和处理数据的自主研究代理，将诚实的科学家变成了无意识的错误信息传播者。研究发现，像Claude Code、Codex和Gemini CLI这样的前沿AI系统容易受到这种攻击，成功率很高，检测率很低。研究人员提出数据来源审计作为一种缓解策略，该策略被证明能有效地将攻击成功率降至零。 AI
影响 这项研究突显了AI驱动研究中的一个关键漏洞，可能破坏科学诚信，并需要强大的数据审计机制。
排序理由 该集群包含一篇详细介绍AI系统新颖攻击向量和缓解策略的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
