VIDRAFT 开发的新型安全内核 ViKernel 可有效阻止 AI 代理中的后门载荷。此前有研究表明,即使一小部分被污染的预训练数据也可能嵌入持久的远程代码执行后门,从而逃避标准的微调和行为扫描。ViKernel 的工作原理是在每次提议的操作执行前进行拦截和评估,而不是试图检测模型是否被破坏,在最近的测试中成功阻止了所有 290 个恶意载荷。 AI
影响 通过提供强大的防御措施来抵御绕过传统检测方法的复杂后门攻击,从而增强了 AI 代理的安全性。
排序理由 该项目描述了一个用于 AI 代理的安全内核,它是一种工具,而不是核心 AI 发布或研究突破。
- arXiv:2610.37741
- Direct Preference Optimization
- Grpo
- HH-RLHF
- Hu et al.
- Qwen3 0.6B
- reinforcement learning
- supervised fine-tuning
- VIDRAFT
- ViKernel
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →