一项最近对AI模型进行渗透测试的评估显示,通常推荐用于此类任务的无审查模型,其表现不如经过对齐的模型。实验涉及攻击OWASP Juice Shop实例的三个模型:一个标准的对齐模型(qwen3:8b)、一个无审查的进攻性安全模型(dolphin-cyber)和一个更大的无审查代码模型(qwen2.5-coder-14b)。与预期相反,无审查安全模型需要最多的协助,而对齐模型表现更好,在较少的指导下成功完成了更多攻击。 AI
影响 表明在渗透测试等特定技术任务中,经过对齐的AI模型可能比无审查的替代品更有效。
排序理由 该条目详细介绍了一项特定实验及其在技术任务上AI模型性能方面的发现。[lever_c_demoted from research: ic=1 ai=1.0]
- Arditi et al
- dolphin-cyber
- Dolphin Mistral Nemo 12B GGUF
- Llama~3.1
- OWASP Juice Shop
- qwen2.5-coder-14b
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →