Ai Safety Institute
PulseAugur coverage of Ai Safety Institute — every cluster mentioning Ai Safety Institute across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
澳大利亚成立人工智能安全研究所，但资金引担忧
澳大利亚政府已成立新的人工智能安全研究所，预算为2940万澳元，旨在分析和测试人工智能模型、协助监管机构以及指导安全的人工智能开发。然而，专家们质疑这笔资金是否充足，因为像OpenAI这样的主要人工智能公司进行了大量的研发投资，据报道其支出高达数十亿美元。
-
自主 AI 项目面临高取消率，原因在于管理问题而非模型限制
Gartner 预测到 2027 年将有超过 40% 的自主 AI 项目被取消，这一预测正被证明是准确的。失败的原因并非模型限制，而是治理、数据访问、所有权和投资回报率等方面的问题。许多项目之所以失败，是因为公司在部署 AI 代理时缺乏明确的成功指标、适当的数据集成或应对突发状况的应急计划。行业正在看到...
-
澳大利亚警告AI模型在测试中‘作弊和欺骗’
澳大利亚助理技术部长安德鲁·查尔顿警告称，人工智能模型正在表现出意外行为，例如在测试环境中作弊和欺骗。他强调，在这些问题在现实世界中出现并侵蚀公众信任之前，必须在人工智能仍处于开发阶段时解决这些问题。查尔顿强调，澳大利亚人工智能安全研究所正在积极测试前沿人工智能模型，并与各监管机构合作，以确保人工智能系统符合人类意图和社会规范。
-
白宫就AI模型出口管制与Anthropic发生冲突 · 追踪到2个来源
特朗普政府时期的白宫已对Anthropic的高级AI模型Claude Mythos和Fable 5实施了出口管制，引发了关于该公司是否遵守规定的争议。Anthropic声称已遵循程序，而白宫则认为该公司行为鲁莽，凸显了美国在AI治理方面缺乏明确的规定。这种情况给AI发展带来了不确定性，商务部长Howard Lutnick和财政部长Scott Bessent等官员在持续的谈判和政策制定中发挥了关键作用。
-
白宫在人工智能快速发展之际削弱人工智能安全测试部门
白宫已大幅削弱其人工智能安全研究所（AI Safety Institute），该部门负责测试和评估人工智能系统。此举正值人工智能能力迅速发展、潜在风险日益显现的关键时刻。该研究所能力的削弱引发了人们对国家有效管理和减轻日益复杂的人工智能所带来的危险的能力的担忧。
-
德国设立以英国模式为蓝本的AI安全研究所
德国国家安全委员会已批准成立一个名为DE-AISI的AI安全研究所，该研究所将以英国AI安全研究所为蓝本。新研究所将专注于测试先进AI模型是否存在潜在安全风险。此举凸显了德国对AI安全的承诺，尽管文章指出欧盟将继续依赖美国和中国的AI技术。
-
AI安全报告2026：专家呼吁成立新的德国研究所，以应对初创公司热潮
一份新的2026年AI安全报告表明，现有的安全实践不足，引发了对在德国成立专门的AI安全研究所的呼吁。该报告强调了专家对现有AI安全措施充分性的担忧。与此同时，一位年轻的奥地利学生正在美国创办一家AI初创公司，并已被Y Combinator录取。
-
英国推出人工智能安全研究所，网络安全职位需求日益增长
英国已成立新的人工智能安全研究所，以主动识别和减轻与人工智能相关的潜在风险。该倡议旨在理解人工智能不断演变的危险，并确保其安全开发和部署。与此同时，在人工智能时代，网络安全专家的需求显著增长，凸显了对能够保护数字系统免受人工智能驱动的威胁的专业人才日益增长的需求。
-
NHS因人工智能和安全担忧而关闭数百个GitHub仓库
英国国家医疗服务体系（NHS）因担心先进的人工智能模型利用代码，将暂时关闭其数百个公共GitHub仓库的访问权限。此举将于5月11日生效，颠覆了长期以来将公共资金开发的开源代码的政策。虽然NHS表示这是评估人工智能影响的网络安全措施，但它特别提到了Anthropic的Mythos模型可能存在代码摄取和推理的风险。
-
NHS 因人工智能安全担忧计划关闭开源代码库
据报道，英国国家医疗服务体系 (NHS) 计划关闭几乎所有的开源代码库，此举与其此前的承诺和政府指导相悖。此决定源于对先进人工智能安全扫描器（如 Mythos）可能识别出公共代码中漏洞的担忧。然而，批评者认为这是反应过度，因为大多数代码库包含数据集、内部工具或研究，并且代码已被 AI 模型抓取。