UK AI Security Institute
PulseAugur coverage of UK AI Security Institute — every cluster mentioning UK AI Security Institute across labs, papers, and developer communities, ranked by signal.
- 2026-05-13 research_milestone The UK's AI Security Institute released findings on new AI models, highlighting their cybersecurity capabilities and token limitations. 来源
1 天有情绪数据
-
Anthropic 的 Fable 5 AI 在代码提示触发关停后被下线
Anthropic 的先进人工智能模型 Fable 5 在一个与代码调试相关的特定提示触发关停后，被暂时从所有用户那里下线。该模型源自功能强大的 Mythos 预览版，专为防御性网络安全任务设计，并在识别系统漏洞方面展现出显著能力。出于安全研究的考虑，Mythos 的访问权限仅限于经过审查的组织，而 Fable 5 则旨在提供类似的功能并加强安全措施。
-
英国AI安全研究所：Mythos、GPT-5.5展示网络安全能力提升，但受限于token数量
英国AI安全研究所评估了新的AI模型，注意到Mythos和GPT-5.5在网络安全能力方面均有显著进步。研究人员发现，这些模型的上限受限于token使用而非内在能力，能力翻倍时间估计为4.5个月。另外，Palantir首席执行官Alex Karp批评德国不愿采用Palantir的软件，并敦促欧洲优先考虑已获验证的乌克兰国防技术。
-
五角大楼寻求540亿美元用于人工智能驱动的无人机战争，同时存在安全担忧
五角大楼在其2027财年预算中要求拨款超过540亿美元，以大幅扩展其人工智能驱动的自主战争项目，包括无人机群。这比前一年有了大幅增长，标志着向将人工智能整合到空、陆、海军事行动中的重大战略转变。尽管进行了巨额投资，专家和前官员对自主武器的风险和伦理影响的准备程度表示担忧，并引用了先进人工智能系统潜在的安全保障故障。
-
未来生命研究所支持特朗普关于人工智能硬件“一键关闭”的呼吁
美国前总统特朗普表示支持人工智能“一键关闭”，这与未来生命研究所（FLI）关于先进人工智能系统必须具备可靠关闭机制的立场一致。FLI总裁兼首席执行官Anthony Aguirre强调了关键系统的脆弱性，并引用了Anthropic的Mythos模型在自主利用零日漏洞和完成复杂网络攻击模拟方面的能力。Aguirre强调，除了软件之外，还需要硬件级别的安全措施来确保人类对日益强大的人工智能的控制，并建议此类功能是可行的，并且可以由NVIDI…
-
OpenAI与英国政府合作，促进人工智能的采用和增长
OpenAI与英国政府已建立战略合作伙伴关系，旨在加速人工智能在英国的采用并促进经济增长。该合作通过OpenAI首席执行官Sam Altman与英国国务大臣Peter Kyle签署的谅解备忘录正式确立，将侧重于探索人工智能在公共服务和私营部门的应用、基础设施开发以及技术信息交流。协议还包括扩大OpenAI与英国人工智能安全研究所之间的合作，以增强模型能力知识和安全研究。
-
OpenAI发布GPT-5.4-Cyber用于网络安全防御
OpenAI发布了GPT-5.4-Cyber，一个专门用于网络安全防御的模型，并推出了其“可信网络访问”计划。该计划旨在为经过验证的防御者提供先进的AI工具，以加速漏洞发现和修复，同时实施防止滥用的安全措施。该计划包括为网络安全拨款提供1000万美元的API积分，并与英国AI安全研究所等领先的安全公司和机构合作。