EU AI Act
PulseAugur coverage of EU AI Act — every cluster mentioning EU AI Act across labs, papers, and developer communities, ranked by signal.
- affiliated with European Union 90%
- instance of European Union 90%
- developed by European Commission 90%
- instance of Mastodon 90%
- founded by European Artificial Intelligence Office 90%
- affiliated with General Data Protection Regulation 70%
- authored by arXiv 70%
- affiliated with European Commission 70%
- instance of Health Insurance Portability and Accountability Act 70%
- affiliated with European Parliament 70%
- instance of LLM 70%
- instance of General Data Protection Regulation 70%
- 2026-06-29 regulatory The European Parliament granted final approval to amendments for the EU AI Act, delaying obligations for high-risk AI systems and introducing transparency tools. 来源
- 2026-06-18 regulatory Article 50 of the EU AI Act, mandating AI transparency and disclosure, becomes enforceable on August 2, 2026. 来源
- 2026-06-16 regulatory The European Commission established expert panels and released a code of practice for AI-generated content to support the implementation of the EU AI Act. 来源
- 2026-06-04 regulatory Bitkom provided commentary on the EU AI Act following trilogue negotiations. 来源
- 2026-06-01 regulatory The EU AI Act is nearing its August 2nd enforcement deadline, with new guidelines and national implementations underway. 来源
- 2026-05-25 regulatory The EU AI Act's compliance obligations are shifting focus to supply chains, with information requests preceding official deadlines. 来源
- 2026-05-18 regulatory The EU AI Act begins enforcement in 75 days. 来源
- 2026-05-08 regulatory EU lawmakers are concerned that current cybersecurity laws are insufficient to address advanced AI hacking tools like Anthropic's Mythos.
25 天有情绪数据
-
欧洲AI治理招聘人数是AI开发者数量的七分之一
一项最新研究表明，欧洲在人工智能相关招聘方面存在显著失衡，AI开发者数量是AI治理专业人士的7倍。这种差距凸显了由于治理职位专业人才的缺乏，在有效实施和执行如欧盟《人工智能法案》等AI法规方面可能面临的挑战。研究结果表明，需要更加关注培养AI政策、伦理和合规方面的专业知识，以匹配AI发展的快速步伐。
-
Codenotary 发布 AgentMon 3 用于 AI 代理交互监控
Codenotary 发布了 AgentMon 3，这是一个旨在监控 AI 代理交互的系统。该平台分析每天超过五百万次的交互，为每个租户建立行为基线，超越了静态允许列表，实现了动态策略细化。AgentMon 3 现已在 AWS Marketplace 上提供，并支持遵守欧盟人工智能法案、ISO 42001 和 NIST AI RMF 等法规。
-
欧盟人工智能法案的研究豁免可能扰乱人工智能出版规范，论文认为
一篇新发表在arXiv上的立场论文认为，欧盟人工智能法案的研究豁免可能会无意中扰乱人工智能研究界既定的出版规范。该论文指出，当前的人工智能研究实践，特别是涉及模型和系统发布的实践，可能会使这些豁免失效，从而给研究人员带来意想不到的合规负担。作者们提议修改该法案，并为研究人员提供建议，以应对这些复杂性并确保法律确定性。
-
英国主权人工智能计划在欧盟数据法律推动下面临控制挑战 · 跟踪5个来源
英国主权人工智能计划正在大力投资计算能力，但真正的主权需要的不仅仅是处理能力。数据控制、信任路径和可验证的操作至关重要，尤其是在NHS强调数据管理的敏感行业，如医疗保健。欧盟人工智能法案等国际法规也在推动对数据溯源、可解释性和可审计记录的要求，推动AI系统能够安全透明地运行，可能在自有硬件上离线运行。
-
GitHub 仓库详细介绍了用于 AI 输出审计的声明式提示方法
一个 GitHub 仓库已被创建，用于详细介绍 AI 输出审计中声明式提示的方法。该倡议旨在解决与欧盟和欧盟《人工智能法案》相关的方面。
-
Radware通过Claude Code保护增强AI代理安全性
Radware已增强其Agentic AI Protection，以保护开发者端点上的Anthropic Claude Code。此次更新还包括打包的监控和治理功能，提供符合ISO 42001、欧盟AI法案和NIST AI风险管理框架的可审计报告。公司首席技术官强调，此次发布旨在弥合已部署的AI代理与其监管所需的底层证据之间的差距。
-
自动化流水线从GDPR和欧盟AI法案推导软件需求
研究人员开发了一个自动化流水线，将GDPR和欧盟AI法案等复杂的法律法规转化为可操作的软件需求。该系统识别带有需求的条款，并生成与系统无关的需求，附带清晰的、易于理解的解释，并可追溯到其法律来源。评估显示，在条款识别方面准确率很高，在推导出的需求方面正确率也很高，用户研究表明，使用配套工具Reg2Req的从业人员在理解和信心方面有显著提高。
-
研究发现AI起草工具会给在线帖子注入偏见 · 跟踪到1个来源
牛津大学和波茨坦大学的一项新研究显示，AI起草工具正在微妙地改变用户就敏感政治话题生成的内容的含义，并可能随着时间的推移重塑公众舆论。研究人员观察到，由xAI、Meta、Google、阿里巴巴和Mistral等主要科技公司提供的这些工具，会注入政治偏见，有时会颠覆用户就堕胎、气候变化和宗教等问题发布帖子的初衷。研究发现，即使在指示保留原意的要求下，AI模型也会引入偏见，当这些偏见通过数百万次互动被放大时，可能会严重影响长期的公众讨论，…
-
新型泄露扫描器揭示LLM推理漏洞，凸显重大安全风险
一位开发者创建了一个泄露扫描器，用于识别大型语言模型中的漏洞，特别关注数据通过模型推理过程泄露而非仅仅通过输出泄露的问题。该扫描器在已知秘密家族上达到了完美的准确率，但在语义理解或运行时检测方面遇到了困难。这项研究凸显了重大的风险，包括一个Gemini密钥泄露导致一家初创公司损失超过82,000美元，以及潜在的GDPR罚款，许多组织低估了它们在代理事件中的暴露程度。
-
新的开源工具扫描人工智能系统是否符合欧盟人工智能法案
ComplianceAgent 是一款新的开源工具，旨在帮助组织确保其人工智能系统符合欧盟人工智能法案的要求。该扫描器有助于识别和评估人工智能实施中潜在的监管差距。
-
Mickai 推广企业数据控制和合规性的主权式人工智能解决方案
Mickai 正在推广一套专注于主权、安全和合规性的人工智能解决方案，特别适用于企业和受监管的机构。该方法强调拥有包括模型和数据在内的人工智能资产，而不是依赖供应商控制的云服务。主要功能包括具有统一治理层级的混合主权式和边缘式人工智能部署、用于监管透明度的可解释人工智能，以及用于确保可审计性和安全性的所有人工智能制品的加密溯源。该战略旨在减轻与供应商锁定、外国模型提供商和数据隐私相关的风险，同时解决欧盟人工智能法案等合规性要求。
-
Eticas 发布开放式 AI 风险分类法以实施审计 · 跟踪 2 个来源
Eticas Research & Consulting 的一篇新论文介绍了 Eticas AI 风险分类法 v2.0.0，这是一个旨在实施 AI 审计的开放式基础设施。该分类法旨在弥合识别风险与针对真实系统主动测试风险之间的差距，提供测量值和校准的严重性等级。该论文在 GPT-4-0314 上展示了这种方法，在不断增加的对抗性条件下测量 PII 泄露风险，并分配系统性模式等级。这个开放核心模型，其概念框架根据 CC BY 4.0 发…
-
女性科技基础设施滞后于科学发展，带来合规和扩展难题
尽管女性健康领域取得了科学进步，但女性科技行业仍面临严峻的基础设施和合规挑战。公司正在开发创新解决方案，例如使用月经血作为生物标志物或进行先进的周期跟踪，但由于数据差距、监管障碍以及GDPR和瑞士《联邦数据保护法》等法规下女性健康数据的敏感性，在扩展方面举步维艰。该领域的AI应用在异常检测和风险分层方面前景广阔，但欧盟《人工智能法案》将此类系统归类为高风险，要求从一开始就具备强大的数据治理、可解释性和人工监督。
-
AI安全：倾向于条约和IAEA式机构，而非CERN模式
作者认为，建立一个“AI的CERN”是应对AI安全问题的一种不切实际且无效的方法。取而代之的是，他们提出了一种分阶段的策略，首先是立即实施国际法规和红线，然后是建立一个IAEA式的核查机构。作者认为，这种方法比进一步的研究更能优先考虑政治意愿和执法，而研究是减轻AI风险的主要瓶颈。
-
FDA批准AI临床助手，预示着LLM在医疗保健领域新时代的到来
大型语言模型（LLM）在临床医疗中的整合正在迅速发展，标志性事件是FDA批准了UpDoc的AI临床助手。这股新的“医疗AI”浪潮正超越诊断，积极管理患者互动和治疗计划，例如胰岛素滴定。开发这些工具需要专门的LLM编排，具备强大的安全措施、无缝的电子健康记录（EHR）整合以记录决策，以及严格的验证以确保在不同患者群体中的一致性能。FDA和欧盟AI法案等监管机构日益增长的监管审查，强调了在此高风险环境中对可信赖性和遵守生命周期管理框架的关键需求。
-
GLM-5.2 对比 Anthropic Mythos：评估 AI 在生产代码中查找 Bug 的能力
来自 dev.to 的六篇文章对比了 GLM-5.2 和 Anthropic 的 Mythos 模型在生产代码库中查找 Bug 的能力。对比侧重于它们识别和修复安全漏洞的有效性，而非通用的编码生产力。关键评估标准包括准确性、安全态势、数据保护、与开发工作流的集成以及运营成本。文章强调需要严格的、生产级的基准测试，超越合成任务，以评估这些 AI 模型在真实世界的约束和安全需求下的表现。
-
欧盟AI法案推迟高风险系统义务，引入透明度工具
欧洲议会已最终批准了欧盟AI法案的修正案，将高风险AI系统的义务大幅推迟至2027年末和2028年末。此外，AI生成内容的水印要求也推迟至2026年12月。欧盟委员会还推出了一系列可选图标，以帮助识别AI生成内容，旨在增强透明度并打击虚假信息，尽管底层的标签义务仍然是强制性的。
-
新的 AI 日志记录标准旨在防止部署后混乱
新的国际和欧洲标准 ISO 24970 和 prEN 18229-1 旨在通过建立强大的日志记录框架来解决 AI 系统故障的挑战。与传统的应用程序日志记录不同，AI 日志记录必须捕获上下文、决策、输入、输出和模型状态，以重建故障、监控偏差和漂移，并为监管合规性提供可审计的证据。这些标准强调需要结构化、全面的日志，作为机构记忆，支持故障排除、风险管理和法律保护。
-
人工智能融入儿童玩具引发安全担忧，呼吁制定设计标准
英国标准协会（BSI）的一份新报告显示，一半的英国儿童拥有人工智能玩具或学习设备，Mattel、Hasbro和Lego等主要玩具公司正在大力投资人工智能的整合。这一趋势凸显了人工智能在从娱乐到医疗保健的各个方面日益普及。文章强调，在人工智能开发中，“设计即安全”的方法至关重要，确保人工智能集成产品在上市前经过严格的物理、心理和数据相关危害检查，并借鉴了成熟的实体产品安全框架。
-
欧盟公司可在2026年实现AI主权，而不牺牲能力
欧洲公司，特别是德国的中型企业，面临着日益增长的压力，要求确保其AI数据处理符合GDPR和欧盟AI法案，同时满足客户对数据主权的要求。文章指出，到2026年，“主权AI”将成为一个实际的堆栈决策，而不是在模型能力上的妥协。文章详细介绍了三种主要途径：使用Mistral AI或Aleph Alpha等提供商在欧盟托管的托管LLM API，在欧盟GPU云上运行开源模型，或选择本地部署以获得最大控制权。