NIST AI Risk Management Framework
PulseAugur coverage of NIST AI Risk Management Framework — every cluster mentioning NIST AI Risk Management Framework across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
Scrapeless 通过结构化数据提取引领AI竞争对手分析
Scrapeless 已被确定为2026年AI竞争对手分析的首选工具，尤其适用于类别答案比较。该平台提供了一个托管API，可从Google AI等AI搜索界面提取详细信息，包括答案、引用和市场背景。这种方法强调保留证据和结构化数据，而不是简单的文本转储或屏幕截图，这与NIST AI风险管理框架等用于稳健分析的框架保持一致。
-
AI事件暴露欧盟、NIST、GDPR框架下的主要问责差距
一篇新的研究论文分析了2020-2026年的AI事件，以评估不同监管框架下的部署后问责情况。研究发现，在遵守欧盟AI法案、NIST AI风险管理框架和GDPR方面存在显著差距，大多数事件未能提供所需监控或影响评估的证据。通过内部监控检测到的事件显示出更高的合规率，凸显了健全的内部流程对于有效AI治理的重要性。该论文提出了一个新的框架，即主动AI治理合规框架（PAGCF），以改进部署前评估、持续监控和跨框架验证。
-
新框架模拟患者互动以评估医疗保健人工智能风险
研究人员开发了一个患者模拟框架，用于评估与对话式医疗保健人工智能相关的风险，该框架与NIST人工智能风险管理框架保持一致。该模拟器整合了医学、语言和行为方面的患者差异，以评估人工智能的性能。当应用于抗抑郁药物选择的人工智能决策辅助工具时，该框架显示，在健康素养较低的情况下，人工智能的性能会显著下降，影响概念检索和推荐的准确性。
-
Radware通过Claude Code保护增强AI代理安全性
Radware已增强其Agentic AI Protection，以保护开发者端点上的Anthropic Claude Code。此次更新还包括打包的监控和治理功能，提供符合ISO 42001、欧盟AI法案和NIST AI风险管理框架的可审计报告。公司首席技术官强调，此次发布旨在弥合已部署的AI代理与其监管所需的底层证据之间的差距。
-
AI 可信度：架构优于文书工作
两篇相关的 Mastodon 帖子讨论了如何通过架构设计而非仅依赖文档来实现可信赖的 AI。第一篇帖子强调了 NIST AI 风险管理框架，指出虽然它定义了可信赖性，但不能保证它。第二篇帖子将 ISO 42001 对文书工作的侧重与一种提议的架构方法进行了对比，在该方法中，操作被签名，决策被记录在防篡改账本中，并且安全由系统强制执行。
-
新的OAuth模式解决了AI网关架构中的身份丢失问题
一篇技术论文提出了一种解决方案，用于解决模型上下文协议（MCP）网关架构中的身份终止问题，即用户身份在网关跳转过程中丢失。提出的委托边界OAuth（DBO）模式使用双重OAuth边界，确保原始用户的身份得到保留，并在所有下游系统中用于授权。这种方法旨在改进审计跟踪、强制执行最小权限原则，并符合NIST AI风险管理框架等框架。
-
新的证据记录代理循环模式增强了 AI 代理的合规性
部署自主 AI 代理的企业需要一个强大的工具调用日志记录系统来确保合规性和可观察性。当前的临时日志记录方法会产生不一致的审计跟踪，使得难以重建代理行为以进行监管或事件审查。提议的证据记录代理循环 (EGAL) 模式通过建立一个一流的合规层来解决这个问题，在该层中，每一次工具调用（无论成功还是失败）都会生成一个结构化的、与身份绑定的、因果链式的证据记录。
-
利用主代理理论分析人工智能对民主的威胁
一篇新论文提出使用主代理理论来系统地分析人工智能对民主进程构成的风险。研究表明，人工智能系统在民主系统中通常充当委托职能，由于对其操作和输出缺乏监督，从而造成问责差距。通过整合 NIST AI Risk Management Framework 中可信赖人工智能的特征，该论文提供了一个实证评估人工智能对民主影响的框架，强调制度可评估性是民主控制的关键。
-
移动AI可见性对企业风险管理至关重要
网络安全行业已认识到AI可见性的关键需求，特别是针对日益成为主要攻击面的移动设备。传统的基于网络的安保工具不足以监控移动设备上的AI流量，因为它通常会绕过企业边界。这种疏忽造成了重大的治理和合规差距，特别是随着能够自主执行工作流和访问企业系统的代理式AI的兴起。
-
专家称医疗保健人工智能治理委员会未能扩展
医疗保健领域的中央人工智能治理委员会正成为官僚主义的瓶颈，阻碍了人工智能技术的广泛应用。这些委员会旨在减轻风险并确保遵守各种法规，但它们往往缺乏必要的专业知识，并且难以应对海量的人工智能提案。当前的 मैनुअल 审查流程跟不上人工智能发展的快速步伐，导致出现变通方法和“影子人工智能”。
-
新的大型语言模型评估框架优先考虑隐私和可访问性
研究人员开发了 LLM-FACETS，这是一个开源框架，旨在使评估大型语言模型（LLM）更加便捷且注重隐私保护。该系统具有浏览器可访问的界面和为技术专家、领域专家及合规官量身定制的插件架构，符合欧盟人工智能法案等框架。LLM-FACETS 通过可视化不确定性的对数概率、使用多裁判共识以及采用 RAG Triad 指标来检测幻觉，从而实现透明度，同时确保数据保留在自托管服务器内。
-
Google 的 Gemini Robotics-ER 1.6 解决了空间逻辑和人工智能治理问题
Google 的 Gemini Robotics-ER 1.6 似乎解决了人工智能系统中的空间逻辑挑战。该开发与 NIST 人工智能风险管理框架和 ISO/IEC 42001 等现有治理框架保持一致。这些结构旨在管理自主系统整个生命周期中的人工智能风险和责任。
-
构建技术以推动人工智能治理
研究人员正在开发新的框架和工具来应对日益增长的人工智能治理挑战。一种方法是“智能体可行性框架”（Agent Viability Framework），它提出了一个信息可行性原则（Informational Viability Principle），用于自主智能体的自适应运行时治理，重点在于估计未观察到的风险。另一篇论文介绍了UGAF-ITS，这是一个旨在整合欧盟《人工智能法案》和NIST人工智能风险管理框架等多样化人工智能治理标准，并…