加州正在探索对先进AI系统进行加强监管,包括一个潜在的紧急“停止开关”。州长Gavin Newsom的行政命令N-9–26指示州官员评估对AI控制更强的独立验证机制。重点正从仅仅拥有一个关闭按钮,转向确保在紧急干预发生时,系统的行为和决策也能被停止或遏制。这涉及到在系统操作意义和决策状态被执行之前进行验证,确保任何有问题的推理在导致有害行为之前被阻止。 AI
影响 这项举措可能为AI监管树立先例,推动更强大的安全机制和对AI系统的独立验证。
排序理由 该集群讨论了一项州级行政命令,提议对AI采取新的监管措施。[lever_c_demoted from significant: ic=1 ai=0.4]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →