论文主张反对将人类从AI驱动的安全生命周期中移除

一篇新论文主张反对完全自动化AI安全生命周期，强调使用相同的AI模型来构建、防御和测试软件的风险。作者认为，这种融合会导致共同的盲点和验证过程中关键的独立性丧失。移除人类监督不仅增加了自动化程度，还消除了外部判断的来源，超越了人类干预的能力，为对手提供了可预测的目标，并模糊了问责制。 AI

影响 强调了AI驱动的安全中的潜在风险，主张在开发和测试中继续保留人类监督。

排序理由 该集群包含一篇讨论AI安全和方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXivLabs
• CatalyzeX
• DagsHub
• generative substrate
• Gotit.pub
• Hugging Face
• Mohamed Chahine Ghanem
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →