ISO/IEC 42001
PulseAugur coverage of ISO/IEC 42001 — every cluster mentioning ISO/IEC 42001 across labs, papers, and developer communities, ranked by signal.
- 2026-07-07 research_milestone The ISO/IEC 42001 standard, the world's first for Artificial Intelligence Management Systems, has been released. 来源
3 天有情绪数据
-
首个AI管理体系国际标准ISO/IEC 42001发布
ISO/IEC 42001 标准已确立为世界上第一个人工智能管理体系 (AIMS) 国际框架。该标准为组织提供了一个结构化的方法来负责任地开发、部署和利用 AI 技术。它旨在帮助企业有效管理与 AI 相关的风险，确保满足道德考量，并保持法规遵从性，从而在创新与治理之间取得平衡。
-
新框架应对AI原生团队风险管理
一篇新研究论文提出了一个用于治理代理AI系统的组织框架，解决了传统软件风险管理的局限性。该论文引入了一个七维画像来区分软件工程、混合和AI原生团队，以及一个用于故障模式的六集群分类法。研究强调，随着团队向AI原生运营转型，风险覆盖范围会显著下降，最严重的故障发生在概率性AI输出与确定性系统交互的组织边界。
-
人工智能融入儿童玩具引发安全担忧，呼吁制定设计标准
英国标准协会（BSI）的一份新报告显示，一半的英国儿童拥有人工智能玩具或学习设备，Mattel、Hasbro和Lego等主要玩具公司正在大力投资人工智能的整合。这一趋势凸显了人工智能在从娱乐到医疗保健的各个方面日益普及。文章强调，在人工智能开发中，“设计即安全”的方法至关重要，确保人工智能集成产品在上市前经过严格的物理、心理和数据相关危害检查，并借鉴了成熟的实体产品安全框架。
-
新论文发现：AI代理给开源治理带来压力
一篇新研究论文探讨了将AI代理集成到开源软件开发中的挑战。该论文强调，为人类贡献者设计的现有开源治理模式，因能够提交代码但监督有限的自主AI代理而承受压力。论文分析了六个主要开源组织的现有政策，并将其与新兴的AI治理框架进行比对，以识别差距并提出一个规范AI贡献者的分层框架。
-
国家基准揭示AI能力危机
一项对国家AI系统进行的最新基准测试显示，成熟度得分为1.8分（满分5分），表明在实现国家经济目标所需的组织能力和专业技能方面存在显著差距。报告强调，挑战不在于技术层面，而是人力和组织能力危机，需要重新设计工作流程和人才体系。为解决此问题，作者提出一个“AI能力操作系统”，整合组织能力、专业技能、行为能力和人机融合，以有效衡量和扩展AI价值。
-
移动AI可见性对企业风险管理至关重要
网络安全行业已认识到AI可见性的关键需求，特别是针对日益成为主要攻击面的移动设备。传统的基于网络的安保工具不足以监控移动设备上的AI流量，因为它通常会绕过企业边界。这种疏忽造成了重大的治理和合规差距，特别是随着能够自主执行工作流和访问企业系统的代理式AI的兴起。
-
专家称医疗保健人工智能治理委员会未能扩展
医疗保健领域的中央人工智能治理委员会正成为官僚主义的瓶颈，阻碍了人工智能技术的广泛应用。这些委员会旨在减轻风险并确保遵守各种法规，但它们往往缺乏必要的专业知识，并且难以应对海量的人工智能提案。当前的 मैनुअल 审查流程跟不上人工智能发展的快速步伐，导致出现变通方法和“影子人工智能”。
-
AI 从兴奋转向控制，受监管和标准驱动
围绕 AI 的讨论正从兴奋转向控制，因为公司正在应对 AI 系统不可预测的性质。与传统的确定性软件不同，AI 可以以难以解释或追溯的方式进行适应和演变，从而导致出现上下文错误响应或决策不一致等问题。欧盟 AI 法案等法规正在出现，旨在通过分层、基于风险的方法来解决这些风险，强调持续监督而非一次性批准。为了满足这些不断变化的需求，公司正超越单纯的合规性，转向运营纪律，ISO/IEC 42001 等标准提供了结构化的 AI 管理系统，用于…
-
新的 EHV 架构实时强制执行 AI 治理策略
研究人员开发了 Ethical Hyper-Velocity (EHV)，这是一种旨在为自主智能体系统实时强制执行 AI 治理策略的新架构。EHV 将即时 (JIT) 编译器与无冲突复制数据类型 (CRDT) 和受信任执行环境 (TEE) 中的基于时期的证明缓存相结合。该方法旨在实现亚毫秒级的形式确定性，从而能够在运行时更新和强制执行策略，而不是通过较慢的回顾性审计方法。
-
Google 的 Gemini Robotics-ER 1.6 解决了空间逻辑和人工智能治理问题
Google 的 Gemini Robotics-ER 1.6 似乎解决了人工智能系统中的空间逻辑挑战。该开发与 NIST 人工智能风险管理框架和 ISO/IEC 42001 等现有治理框架保持一致。这些结构旨在管理自主系统整个生命周期中的人工智能风险和责任。
-
构建技术以推动人工智能治理
研究人员正在开发新的框架和工具来应对日益增长的人工智能治理挑战。一种方法是“智能体可行性框架”（Agent Viability Framework），它提出了一个信息可行性原则（Informational Viability Principle），用于自主智能体的自适应运行时治理，重点在于估计未观察到的风险。另一篇论文介绍了UGAF-ITS，这是一个旨在整合欧盟《人工智能法案》和NIST人工智能风险管理框架等多样化人工智能治理标准，并…