Luta Security
PulseAugur coverage of Luta Security — every cluster mentioning Luta Security across labs, papers, and developer communities, ranked by signal.
-
Anthropic 加强人工智能安全措施，以解除特朗普政府的出口管制
Anthropic 实施了一项新的安全措施，以防止用户访问其 Claude Fable 5 人工智能模型中的受限功能。这项安全措施将试图访问敏感网络安全和生物学功能的重定向到不太先进的 Opus 4.8 模型，这是特朗普政府解除对 Fable 5 出口管制的关键因素。虽然这解决了与商务部之间的一个即时问题，但 Anthropic 仍面临来自国防部长的供应链风险指定带来的挑战。
-
Anthropic AI 模型因美国出口管制争端而离线 · 跟踪到 2 个来源
在特朗普政府发布出口管制令后，Anthropic 已将其 Mythos 类 AI 模型下线。该命令于 6 月 12 日发布，出于安全考虑，禁止任何外国国民访问 Mythos 5 和 Fable 5。尽管进行了激烈谈判，但仍未达成解决方案，这使得这些模型的未来可用性变得不确定，并可能影响更广泛的美国 AI 行业。争论的关键似乎在于将出口管制框架应用于 AI 系统，专家们正在就 Fable 5 中据报道的漏洞的严重性进行辩论。
-
美国政府因代码修复越狱暂停 Anthropic 的 Fable 5 · 跟踪 1 个来源
Anthropic 的 Fable 5 模型因发现一个越狱方法而被美国政府暂时暂停使用。该越狱方法是通过要求 AI 修复易受攻击的代码实现的。网络安全专家和 AI 领导者批评了政府的这一举动，认为这种漏洞是 AI 代码分析固有的，并且暂停使用不公平地使防御者处于不利地位。此事件引发了对 AI 出口管制以及评估和减轻 AI 风险的流程的质疑，许多人认为暂停是出于政治动机，并且该模型很快就会恢复。
-
AI模型Fable因“修复这段代码”提示引发争议后下线
一款名为Fable的AI模型在收到政府请求后被下线，作者认为这是基于误解。争论的核心似乎源于一个要求AI“修复这段代码”的提示，专家Katie Moussouris表示，这项任务不应触发出口管制。此次事件具有更广泛的影响，可能损害美国AI行业并侵蚀全球对其技术的信任。
-
专家称美国政府禁止 Fable 5 与其代码修复能力有关
Katie Moussouris 认为，美国政府禁止 Fable 5 是因为它能够修复代码，这可能是一个安全隐患。这一观点来自 Luta Security 网站上的一篇文章。
-
Anthropic的Fable模型协助白宫检测网络安全漏洞
网络安全专家Katie Moussouris审阅了一份白宫报告，该报告详细介绍了Anthropic的“Fable”模型如何用于漏洞检测和修补。Moussouris表示，该模型最初拒绝审查代码中的安全问题，但在被要求“修复此代码”后又同意了，这种行为是“模型按预期工作”以实现网络防御。这次互动凸显了AI模型在主动网络安全措施方面的潜力。
-
美国政府禁止Anthropic模型被视为政治行为而非安全考量
美国政府通过特朗普政府，已迫使Anthropic将其最新的AI模型Fable 5和Mythos 5下线。此举以含糊的国家安全担忧为由，通过一项模糊的出口管制指令，被批评者定性为政治操作，而非对AI越狱问题的真实回应。专家认为，该指令可能是报复性行为，或是对Anthropic拒绝广泛提供其模型访问权限的回应，这引发了对美国AI公司在关键应用中可靠性的担忧。
-
Anthropic的Fable 5 AI模型在收到亚马逊安全报告后被撤下
在亚马逊向白宫发出紧急报告后，Anthropic的Fable 5 AI模型被迅速下线。亚马逊的报告详细说明了如何能够越狱该模型，从而构成国家安全威胁。这导致白宫进行干预，包括实施出口管制规定，并在Fable 5发布后的几天内有效地阻止了公众访问。此次事件凸显了人工智能监管和行业对新技术反应的快速、被动性。
-
美国因“面向国防”的研究限制Anthropic AI模型
美国商务部已对Anthropic的Fable 5和Mythos 5 AI模型实施出口限制，理由是国家安全担忧，可能涉及“越狱”研究。然而，一位审阅了该研究的网络安全CEO将其描述为“面向国防的提示”（DOP），旨在识别用于防御而非攻击目的的安全漏洞。Anthropic表示，他们不同意将一项狭隘的越狱发现作为禁用商业模型的理由，并认为政府的行动缺乏透明度和技术依据，可能阻碍未来的AI开发和合作。
-
美国政府因“修复此代码”漏洞叫停Anthropic AI模型
美国政府已对Anthropic的Fable 5和Mythos 5 AI模型实施出口管制，原因是亚马逊研究人员发现了一个安全漏洞。网络安全专家Katie Moussouris解释说，该漏洞由提示“修复此代码”触发，允许模型识别和修补安全缺陷，这一能力被认为出口风险过高。尽管政府有此指令，Moussouris和其他专家认为这一功能对网络安全防御者至关重要，并主张解除禁令。