PulseAugur
实时 03:23:43

AI安全应是一种认知属性,而不仅仅是行为属性,论文认为

一篇新论文提出,AI安全应被视为一种认知属性,而不仅仅是行为属性。作者认为,当前的AI安全方法侧重于系统当前的表现,这不足以应对日益动态和自我改进的AI系统。他们引入了“可教性”的概念,即未来保持纠正能力的能力,并建议高级AI必须随着时间的推移保持可纠正性,而不仅仅是在当下表现得可接受。 AI

影响 提出了一个关于AI安全的新概念框架,可能会影响未来的研究方向和评估方法。

排序理由 学术论文,提出了一个关于AI安全的新框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

AI安全应是一种认知属性,而不仅仅是行为属性,论文认为

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Charles L. Wang, Keir Dorchen, Peter Jin ·

    Agentic Safety is an Epistemic Property, Not a Behavioral One

    arXiv:2606.28347v1 Announce Type: cross Abstract: Contemporary AI safety spans pre-training interventions, post-training alignment, deployment-time controls, monitoring, and red-teaming. These methods are necessary, but they primarily certify snapshots of system behavior. As AI s…