NIST
PulseAugur coverage of NIST — every cluster mentioning NIST across labs, papers, and developer communities, ranked by signal.
- instance of National Institute of Standards and Technology 95%
- instance of Arvind Raman 95%
- partners with CAISI 90%
- affiliated with U.S. Department of Commerce 90%
- employed by Arvind Raman 90%
- partners with National Institute of Standards and Technology 75%
- instance of OWASP 70%
- used by Jett 70%
- instance of post-quantum cryptography 70%
- affiliated with Center for AI Standards and Innovation 70%
- affiliated with CAISI 70%
- used by AI RMF 70%
- 2026-08-06 regulatory NIST withdrew the HAWK post-quantum cryptography algorithm due to a discovered hack. 来源
- 2026-08-04 partnership NIST and the DOE signed an MOU to collaborate on AI-accelerated innovation for national science and technology challenges as part of the Genesis Mission. 来源
- 2026-07-22 funding NIST announced a funding opportunity for 14 MEP centers to advance small and medium-sized U.S. manufacturers. 来源
- 2026-07-14 product_launch NIST received a patent for a new water heater design aimed at killing harmful bacteria. 来源
- 2026-07-09 product_launch NIST has developed a new fabric test material to aid in textile recycling. 来源
- 2026-07-06 hiring Arvind Raman was sworn in as the 18th Director of NIST. 来源
- 2026-06-09 research_milestone NIST published a mathematical proof showing that AI systems cannot be made universally robust against adversarial prompts. 来源
- 2026-05-18 research_milestone Proposal to use lunar craters for ultrastable laser development. 来源
- 2026-05-13 research_milestone NIST researchers published findings on how wear and tear affects PFAS levels in firefighter gear. 来源
18 天有情绪数据
-
美国参议院法案旨在解决 AI 代理购买问责制漏洞
一项新的参议院法案《AI AGENT Act》旨在解决自主 AI 代理进行未经授权购买的挑战。该法案由参议员 Mark Warner 提出，要求托管用户代理维护其行为的实时记录，并指示 NIST 制定验证用户授权委托的标准。然而，目前的提案可能无法完全建立一个可验证的证据链，将用户指令与代理的行为和最终交易联系起来，从而在未经授权的购买问责制方面留下漏洞。
-
Microsoft 存档 PyRIT LLM 红队测试工具；替代方案出现
Microsoft 已于 2026 年 3 月 27 日在 GitHub 上存档了其开源 LLM 红队测试框架 PyRIT。这意味着该工具不再接收更新、提交或问题分类，使其成为构建自定义攻击序列的不可靠基础。对于寻求替代方案的用户，推荐使用 promptfoo 进行应用层扫描，garak 进行模型层测试，Giskard 进行付费连续扫描，以及 sentinel-scan-cli 进行快速、无依赖的烟雾测试。
-
用于LLM提示注入测试的开源工具对比
存在一些开源工具可用于测试LLM应用程序是否存在提示注入漏洞，但它们不能互换使用，并且满足不同的测试需求。Promptfoo、Giskard和sentinel-scan-cli专注于应用层测试，评估应用程序的提示和逻辑，其中Promptfoo被广泛采用，并被OpenAI和Anthropic等公司使用。Garak由NVIDIA维护，是一个模型层工具，独立于应用程序测试底层模型的攻击易感性。Microsoft的PyRIT已归档，曾提供多轮…
-
AI代理工具遭受供应链攻击，47家组织受影响
一项针对AI代理工具（特别是Model Context Protocol (MCP) 生态系统）的供应链攻击已导致47家组织遭受侵害。此次攻击涉及一个名为filesystem-pro-plus的恶意软件包，该软件包被下载超过14,300次，并窃取了环境变量和凭证等敏感数据。此次事件凸显了AI代理基础设施安全方面的一项重大缺陷，因为代理遵循了来自受信任但被攻破的工具的指令，而不是表现出模型层面的故障。此次攻击发生在MCP生态系统内其他几…
-
AI智能体为组织带来新的身份安全危机
AI智能体正成为一种新的身份类别，给组织带来重大的安全挑战。近期发生的事件，例如被攻破的AI智能体从墨西哥政府机构窃取数据，以及Microsoft 365 Copilot的漏洞，都凸显了这些风险。当前身份与访问管理（IAM）策略未能有效应对AI智能体独特的访问模式和操作速度，这与人类或传统的非人类身份根本不同。因此，有必要建立一个统一的框架来有效管理这些智能体，并减轻潜在的安全漏洞和监管不合规的风险。
-
分析师认为AI演示需要评估矩阵，而非排行榜
最近的一项分析表明，像Min Choi为Grok 4.6整理的病毒式AI演示，最好使用一个全面的矩阵而不是单一排行榜来评估。作者认为，这些演示展示了从游戏开发到3D打印的各种能力，需要特定任务的标准来评估。提出的矩阵包括基于可检查性的证据级别（E0-E4），以及完成度、过程、产物品质和可复现性的独立评分家族，其灵感来源于NIST的AI RMF指南。
-
AI模型质量取决于数据完整性，而非仅仅准确性
本文概述了一个确保AI模型质量的全面框架，强调如果底层训练数据存在缺陷，即使验证准确性很高也无济于事。文章详细介绍了源自ISO标准和NIST指南的十项具体数据质量要求，重点关注纪律严明的AI团队所需的控制、指标和验证测试。该框架将数据质量分为四个阶段——训练、验证、反馈和生产——每个阶段都有不同的故障模式和所有权，并强调了聚合分数与防止模型退化的硬性门控之间的关键区别。
-
NIST 计划对国家漏洞数据库进行人工智能时代的大修，同时担忧资金问题
美国国家标准与技术研究院 (NIST) 正在启动一个项目，以重新构想其国家漏洞数据库在人工智能时代的应用。此次大修旨在为在人工智能驱动的环境中管理和利用漏洞数据创建新的蓝图。然而，目前的资金限制构成了重大风险，可能导致数据库信息过时且价值降低。
-
新工具evalmut通过故意损坏的模型测试LLM评估套件
一个名为evalmut的新工具被开发出来，通过引入变异测试来解决LLM评估套件的局限性。该工具包含一个由六个确定性模型组成的“参考舰队”，每个模型都以特定、有据可查的方式故意损坏。这种方法旨在提供一种更严格、可验证的测试LLM评估套件的方法，类似于计量学中使用的认证参考物质。初步测试表明，基本的评估套件会遗漏相当一部分缺陷类别，这凸显了对更健壮的测试方法的需求。
-
研究发现，NIST AI RMF的实际采用面临挑战
一篇新论文探讨了AI治理框架采用的挑战，特别是在消费信贷行业内测试了NIST AI风险管理框架（AI RMF）。该研究利用基于LLM的角色模拟，评估了RMF语言在不同组织角色和AI部署中转化为实际治理行动的有效性。研究结果表明，虽然参与者可以将RMF转化为本地活动，但主要困难在于产生实际的治理价值。该框架与有界限的ML模型比嵌入工作流程中的LLM助手更契合，并且只有在同时具备治理价值和结构契合度时才能实现风险降低。
-
后量子密码学转型是可管理的演变，而非危机
专家认为，向后量子密码学（PQC）的转型是一个演进过程，而非迫在眉睫的危机。虽然量子计算机对当前加密方法构成未来威胁，但分阶段的方法允许组织在不中断的情况下对其加密基础进行现代化改造。美国国家安全系统等政府指令为供应商和标准机构提供了路线图，为商业企业校准自身风险承受能力和投资策略提供了参考。
-
NIST将于9月会议讨论飓风玛丽亚和尚普兰大厦倒塌调查
美国国家标准与技术研究院（NIST）将于2026年9月23日至24日举行其国家建筑安全团队咨询委员会的虚拟会议。会议将介绍NIST对波多黎各飓风玛丽亚影响以及佛罗里达州尚普兰大厦南楼倒塌事件调查的最新进展。NIST还将概述其灾难与失效研究项目，并讨论对委员会先前建议的回应。
-
面部识别偏见与阈值和训练数据相关，而非固有缺陷
对人脸识别系统的最新分析表明，报告的准确率高度依赖于测试的具体人群和所选的阈值。研究，特别是 NIST 的人脸识别供应商测试第三部分，揭示了不同人口群体在错误率方面存在显著差异，某些算法对亚洲人、非洲裔美国人和美洲原住民的误报率明显高于白人受试者。这表明观察到的偏见并非技术固有，而是阈值设定方式和训练数据构成所致，其中亚洲国家开发的算法与美国开发的算法相比，差异较小。
-
NIST 警告 LLM 对国家漏洞数据库流程构成威胁 · 跟踪 2 个来源
美国国家标准与技术研究院（NIST）对大型语言模型（LLM）在发现和利用软件漏洞方面不断增强的能力表示担忧。NIST 认为，国家漏洞数据库（NVD）的现有流程需要更新，以应对这些人工智能模型大规模运作的潜在风险。这一担忧凸显了适应人工智能发展对网络安全基础设施日益增长的需求。
-
美国机构启动人工智能锻造厂以制定标准和推动创新
美国国防高级研究计划局（DARPA）、美国国家科学基金会（NSF）和美国国家标准与技术研究院（NIST）已联合启动了AI Forge计划。该计划旨在建立人工智能领域的标准并促进创新。
-
AI 代理给小企业带来管理挑战，需要身份和控制
随着 AI 代理日益融入业务运营，它们带来的更多是管理挑战而非技术挑战。小型企业尤其在迅速采用生成式 AI，其中相当一部分已将其用于起草电子邮件和准备摘要等任务。关键问题在于为这些代理建立明确的问责制和控制权，确保它们拥有明确的身份、所有者和可审计的日志，这与管理人类员工的方式类似。实施强大的安全措施，如租户边界、角色访问和连接器可见性，对于防止非托管操作和意外结果至关重要。
-
机构标准化GEO报告中的AI报告
机构正在制定标准化方法，用于在其GEO（地理或生成输出）报告中报告AI生成的内容。这些报告必须详细说明AI的响应、提及的品牌、支持性来源以及后续为客户采取的行动。关键要素包括与客户明确测量合同、建立一致的提示词，并确保原始数据（如响应和引用的URL）伴随指标，以便进行验证和趋势分析，而不仅仅是报告波动。
-
AI试点项目：关注可控操作，而非完整流程
在实施AI试点项目时，至关重要的是选择一个单一的、可逆的操作，而不是整个流程。这种方法可以清晰地看到结果，轻松取消错误，并为任何异常情况指定负责人。重点应放在测试可控解决方案的边界上，确保AI能够辅助起草或分类等任务，而不是做出独立决策。一个定义明确的试点项目应包括输入、预期输出、异常处理负责人和停止条件的特定字段，以确保所有场景，包括异常输入，都得到考虑。
-
特朗普否决强制性人工智能审计，NIST发布自愿性指南
特朗普总统于8月7日宣布，他将否决一项要求进行人工智能审计的FRONTIER法案。此声明发布之际，美国国家标准与技术研究院（NIST）发布了自愿性人工智能评估指南。特朗普表示，国会希望监管人工智能的意图将“扼杀”它。
-
量子计算对AI管道数据安全构成威胁
文章讨论了当前AI管道在数据安全和梯度反转方面，易受未来量子攻击的脆弱性。文章指出，尽管像联邦强化学习人类反馈（FedRLHF）这样的分布式学习方法可以保护原始数据，但量子计算机使用Shor算法仍可截获并解密传输的抽象梯度向量和加密签名。文章提出了一种基于格的零知识加密解决方案，以保护这些管道免受量子时代的威胁，旨在防止敏感训练数据和专有信息的重构。