ISO/IEC 42001
PulseAugur coverage of ISO/IEC 42001 — every cluster mentioning ISO/IEC 42001 across labs, papers, and developer communities, ranked by signal.
- 2026-07-07 research_milestone The ISO/IEC 42001 standard, the world's first for Artificial Intelligence Management Systems, has been released. 来源
2 天有情绪数据
-
GATE v1.5 roadmap 预览 ISO/IEC 42001 映射和新功能
GATE v1.5 的路线图已发布预览，详细介绍了即将推出的功能，例如与 ISO/IEC 42001 标准的每个控制项映射。此版本还将包括流式感知输出验证和一个端到端的 ADK 参考实现。此外，GATE v1.5 将提供公共游乐场和进一步的模糊测试工作。
-
新的LLM生命周期模型优先考虑安全性而非效率
一篇新论文提出了一个面向安全的LLM系统生命周期模型，解决了现有框架中优先考虑运行效率而非安全性的不足。该模型围绕安全相关边界构建开发和运营，涵盖数据、模型、分发和应用层面的32个阶段，并由LLMOps和治理支柱支持。对当前监管环境的分析，包括NIST AI RMF和欧盟AI法案，显示治理证据集中在部署阶段，而关键决策在早期做出且监管可见度较低。
-
人工智能治理：连接自上而下的政策与自下而上的控制
人工智能治理正从两种不同的组织方法中涌现：自上而下的政策制定和人工智能团队内部的自下而上实施。一些公司设立了正式的委员会和政策，而另一些公司则发现治理实践已经融入其人工智能团队的日常运营中，例如在架构审查和模型评估方面。主要挑战在于将这些零散的、通常不相关的治理工作整合为一项统一的企业级战略。
-
新工具AIGen实现AI物料清单生成自动化
一篇新论文介绍AIGen，一个旨在自动化生成AI物料清单（AIBoMs）的工具。AIGen与MLflow等MLOps框架集成，并利用挖掘启发式方法和大型语言模型的组合来创建机器可读的AI系统组件清单。该工具支持Hugging Face、PyTorch和TensorFlow等各种AI框架，并采用插件架构以实现可扩展性。AIGen旨在促进遵守欧盟AI法案和NIST AI风险管理框架等法规。
-
通用人工智能兴起，公共部门人工智能治理框架面临失败风险
2026年7月28日发表的两篇新的arXiv论文强调了将现有AI治理框架应用于公共部门组织时面临的重大挑战，尤其是在通用人工智能（GPAI）兴起之际。第一篇论文提出了一种AI驱动的网络治理失败的类型学，以及一个关于问责制、运营韧性和合规性失败如何相互作用的模型，发现当前的框架如NIST CSF 2.0和ISO/IEC 27001不足以解决影子AI和治理真空等问题。第二篇论文聚焦于警务，认为GPAI的固有特性——通用性、可访问性和基于提…
-
全球标准化机构竞相制定人工智能指南
国际标准化组织，包括IEC、ISO和ITU，正致力于制定人工智能的指南和规范，以跟上其快速发展的步伐。这些自愿性标准旨在增强采用人工智能的公司的信任度、可融资性和竞争优势。关键举措包括针对人工智能管理体系的ISO/IEC 42000系列，以及通过JPEG Trust等标准（用于水印和元数据嵌入）来打击人工智能生成的信息。
-
首个AI管理体系国际标准ISO/IEC 42001发布
ISO/IEC 42001 标准已确立为世界上第一个人工智能管理体系 (AIMS) 国际框架。该标准为组织提供了一个结构化的方法来负责任地开发、部署和利用 AI 技术。它旨在帮助企业有效管理与 AI 相关的风险，确保满足道德考量，并保持法规遵从性，从而在创新与治理之间取得平衡。
-
新框架应对AI原生团队风险管理
一篇新研究论文提出了一个用于治理代理AI系统的组织框架，解决了传统软件风险管理的局限性。该论文引入了一个七维画像来区分软件工程、混合和AI原生团队，以及一个用于故障模式的六集群分类法。研究强调，随着团队向AI原生运营转型，风险覆盖范围会显著下降，最严重的故障发生在概率性AI输出与确定性系统交互的组织边界。
-
人工智能融入儿童玩具引发安全担忧，呼吁制定设计标准
英国标准协会（BSI）的一份新报告显示，一半的英国儿童拥有人工智能玩具或学习设备，Mattel、Hasbro和Lego等主要玩具公司正在大力投资人工智能的整合。这一趋势凸显了人工智能在从娱乐到医疗保健的各个方面日益普及。文章强调，在人工智能开发中，“设计即安全”的方法至关重要，确保人工智能集成产品在上市前经过严格的物理、心理和数据相关危害检查，并借鉴了成熟的实体产品安全框架。
-
新论文发现：AI代理给开源治理带来压力
一篇新研究论文探讨了将AI代理集成到开源软件开发中的挑战。该论文强调，为人类贡献者设计的现有开源治理模式，因能够提交代码但监督有限的自主AI代理而承受压力。论文分析了六个主要开源组织的现有政策，并将其与新兴的AI治理框架进行比对，以识别差距并提出一个规范AI贡献者的分层框架。
-
国家基准揭示AI能力危机
一项对国家AI系统进行的最新基准测试显示，成熟度得分为1.8分（满分5分），表明在实现国家经济目标所需的组织能力和专业技能方面存在显著差距。报告强调，挑战不在于技术层面，而是人力和组织能力危机，需要重新设计工作流程和人才体系。为解决此问题，作者提出一个“AI能力操作系统”，整合组织能力、专业技能、行为能力和人机融合，以有效衡量和扩展AI价值。
-
移动AI可见性对企业风险管理至关重要
网络安全行业已认识到AI可见性的关键需求，特别是针对日益成为主要攻击面的移动设备。传统的基于网络的安保工具不足以监控移动设备上的AI流量，因为它通常会绕过企业边界。这种疏忽造成了重大的治理和合规差距，特别是随着能够自主执行工作流和访问企业系统的代理式AI的兴起。
-
专家称医疗保健人工智能治理委员会未能扩展
医疗保健领域的中央人工智能治理委员会正成为官僚主义的瓶颈，阻碍了人工智能技术的广泛应用。这些委员会旨在减轻风险并确保遵守各种法规，但它们往往缺乏必要的专业知识，并且难以应对海量的人工智能提案。当前的 मैनुअल 审查流程跟不上人工智能发展的快速步伐，导致出现变通方法和“影子人工智能”。
-
AI 从兴奋转向控制，受监管和标准驱动
围绕 AI 的讨论正从兴奋转向控制，因为公司正在应对 AI 系统不可预测的性质。与传统的确定性软件不同，AI 可以以难以解释或追溯的方式进行适应和演变，从而导致出现上下文错误响应或决策不一致等问题。欧盟 AI 法案等法规正在出现，旨在通过分层、基于风险的方法来解决这些风险，强调持续监督而非一次性批准。为了满足这些不断变化的需求，公司正超越单纯的合规性，转向运营纪律，ISO/IEC 42001 等标准提供了结构化的 AI 管理系统，用于…
-
新的 EHV 架构实时强制执行 AI 治理策略
研究人员开发了 Ethical Hyper-Velocity (EHV)，这是一种旨在为自主智能体系统实时强制执行 AI 治理策略的新架构。EHV 将即时 (JIT) 编译器与无冲突复制数据类型 (CRDT) 和受信任执行环境 (TEE) 中的基于时期的证明缓存相结合。该方法旨在实现亚毫秒级的形式确定性，从而能够在运行时更新和强制执行策略，而不是通过较慢的回顾性审计方法。
-
Google 的 Gemini Robotics-ER 1.6 解决了空间逻辑和人工智能治理问题
Google 的 Gemini Robotics-ER 1.6 似乎解决了人工智能系统中的空间逻辑挑战。该开发与 NIST 人工智能风险管理框架和 ISO/IEC 42001 等现有治理框架保持一致。这些结构旨在管理自主系统整个生命周期中的人工智能风险和责任。
-
构建技术以推动人工智能治理
研究人员正在开发新的框架和工具来应对日益增长的人工智能治理挑战。一种方法是“智能体可行性框架”（Agent Viability Framework），它提出了一个信息可行性原则（Informational Viability Principle），用于自主智能体的自适应运行时治理，重点在于估计未观察到的风险。另一篇论文介绍了UGAF-ITS，这是一个旨在整合欧盟《人工智能法案》和NIST人工智能风险管理框架等多样化人工智能治理标准，并…