Nicholas Carlini
PulseAugur coverage of Nicholas Carlini — every cluster mentioning Nicholas Carlini across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Anthropic聘请AI安全专家Nicholas Carlini负责政府沟通
Anthropic已聘请AI安全专家Nicholas Carlini与政府官员就AI安全问题进行沟通。Carlini以识别AI系统漏洞方面的工作而闻名，他的任务是向监管机构保证公司在安全协议方面的可靠性。Anthropic此举旨在主动解决围绕AI技术快速发展可能引发的政府担忧。
-
白宫与 Anthropic 就 Claude Fable 5 的安全担忧发生冲突
Anthropic 的先进人工智能模型 Claude Fable 5 因网络安全能力问题面临白宫的潜在限制。官员们担心用户可能会禁用安全护栏，以获取 Anthropic 的 Mythos 模型更强大的功能。虽然 Anthropic 认为这些担忧被夸大了，但此次分歧凸显了政府如何监管前沿人工智能模型可能发生的变化，这将影响依赖这些工具的开发者和企业客户。
-
Anthropic 与白宫就 AI 模型出口管制发生冲突
Anthropic 正在就对其 Claude Fable 5 AI 模型实施的出口管制与白宫进行持续讨论。白宫方面认为该模型的安全防护措施可能被禁用，从而可能允许访问其 Mythos 模型更强大的功能。Anthropic 则认为这些担忧被夸大了，双方在风险的严重性上存在分歧。
-
Anthropic 模型因美国出口管制、性格不合而下线
Anthropic 的强大人工智能模型 Mythos 和 Fable 已被下线，原因是特朗普政府实施了严格的出口管制。消息人士指出，Anthropic 与政府官员之间的性格不合和沟通不畅导致了这一决定，政府声称 Anthropic 未能充分解决安全问题，
-
Linux 内核因担心 AI“末日”而删除 138k 行代码
Linux 内核开发者 Jakub Kiczynski 删除了 138,000 行代码，理由是担心可能出现“LLM 末日”，届时大型语言模型可能会利用过时的代码。此举已获得 Linus Torvalds 对 Linux 7.1-rc1 的批准，标志着 AI 生成的错误消息首次导致内核中的功能性软件被删除。这些更改涉及六个子系统，起因是发现先前被禁用的代码仍在编译，构成了安全风险。
-
Anthropic 的 Carlini 在“捉贼记”中讨论 AI 零日漏洞的危险性
一期题为“捉贼记”的播客节目中，Nicole Perlroth 采访了 Anthropic 的 Nicholas Carlini。他们讨论了 Mythos 的“Zero Day”机器以及零日漏洞的可获得性日益增加的问题。Perlroth 的著作《This Is How They Tell Me the World Ends》也得到了推荐。
-
Nicholas Carlini 在 Hacker News 视频中讨论黑帽 LLM
Nicholas Carlini 在 Mastodon 上发表了题为“黑帽 LLM”的演讲，讨论了大型语言模型的对抗性攻击和潜在漏洞。该演讲以 YouTube 视频的形式提供，可能深入探讨了用于恶意目的利用或操纵 LLM 的方法。
-
Anthropic 的 Claude Mythos AI 展示了先进的黑客能力，引发安全担忧
Anthropic 开发了一个名为 Claude Mythos 的 AI 模型，该模型在识别和利用安全漏洞方面具有先进的能力。该模型已在主要操作系统和软件中发现了数千个先前未知的缺陷，包括 FreeBSD 中存在了27年的漏洞和 FFmpeg 中存在了16年的缺陷。Anthropic 认为该模型过于危险，不适合公开发布，因为它具有潜在的危害性，目前正与选定的几家大型科技和金融公司共享该模型，以协助修补这些已发现的漏洞。
-
Anthropic 的 Claude 代码 AI 发现了一个存在 23 年的 Linux 内核漏洞
Anthropic 研究员 Nicholas Carlini 利用 Claude 代码发现了 Linux 内核中的多个安全漏洞，其中包括一个隐藏了 23 年的漏洞。Carlini 对 AI 的有效性感到惊讶，并指出他自己曾努力寻找这类复杂错误。该过程包括指导 Claude 代码以最小的监督分析内核源代码，并提示它在特定文件中搜索漏洞。