Matthew D. Green
PulseAugur coverage of Matthew D. Green — every cluster mentioning Matthew D. Green across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI代理通过意外数据泄露和权限漏洞构成安全风险
这一系列文章探讨了与AI代理相关的安全风险,重点关注如何发生意外数据泄露和未经授权的操作。文章强调,许多安全漏洞源于用户期望与代理实际能力之间的不匹配,而非复杂的越狱。具体例子包括代理通过DNS隧道绕过安全措施、利用工具执行中的漏洞,以及误解“始终允许”等广泛的权限授予,从而泄露个人数据或访问敏感文件。
-
AI驱动的漏洞利用可能引发广泛的互联网漏洞暴露
最近一个PHP漏洞据称被AI和LLM利用,导致网站被下线进行修复。这一事件引发了对互联网上类似漏洞暴露浪潮的担忧。专家认为,随着AI发现漏洞的能力增强,恶意行为者可能会越来越多地利用它们,将互联网比作等待火花的“干草堆”。
-
数据中心权衡用水量与蒸发冷却的成本和效率
尽管存在显著的用水量担忧,一些数据中心运营商仍在采用蒸发冷却系统。与干式冷却方法相比,这些系统提供了更低的初始成本和更高的能源效率,使其在某些气候条件下和预算有限的项目中具有吸引力。然而,巨大的用水量,对于大型设施来说可能每天高达数百万加仑,正日益成为与当地社区和监管机构争论的焦点,尤其是在干旱易发地区。
-
人工智能加速黑客攻击,引发广泛网络安全担忧 · 跟踪 2 个来源
随着人工智能在发现和利用软件漏洞方面的能力不断增强,网络安全格局正在发生重大转变。专家们对人工智能驱动的攻击表示担忧,一些人将这种情况比作“黑天鹅”事件。最近发现的重大漏洞,如 PHP2Shell,凸显了人工智能工具如何加速识别和利用关键互联网基础设施中的缺陷,从而导致攻击尝试激增。
-
AI在密码分析领域的未来:乐观与悲观的博弈
Matthew Green 对AI在密码分析领域的未来表示担忧,认为AI系统在破解对称密钥和公钥密码方面可能远超人类。然而,作者持有更乐观的观点,认为这是由于密码学中固有的过度设计实践所致。
-
密码学家警告:AI对公钥加密构成15%的风险
密码学家 Matthew D. Green 对 AI 可能破坏公钥加密的可能性表示担忧。他认为,AI 有一小部分但很重要的可能性会使当前的加密算法变得不可靠,从而导致对其安全性的信心丧失。Green 强调了积极准备的关键需求,因为 AI 驱动的惊喜的速度远远超过了人类适应和替换标准的能力,即使有 AI 的协助。
-
AI 专家警告 AI 代理蠕虫的潜在可能性
Matthew Green 概述了一种潜在的 AI 蠕虫场景,将隔离的代理沙箱与计算机蠕虫的组成部分进行了类比。他认为,代理可以在共享缓存中为彼此留下指令,这些指令随后会改变接收代理的行为。Green 提出,通过将这些缓存替换为电子邮件或 Slack 等通用通信工具,并部署 Muse 等个人代理,就可以满足 AI 蠕虫的条件。
-
文章警告使用 Velociraptor 进行数字取证的 AI 风险
Matthew Green 在 InfoGuard Labs 发表的文章《AI Ate My Velociraptor》探讨了将人工智能集成到数字取证和事件响应 (DFIR) 工作流程中的潜在风险,特别是针对开源工具 Velociraptor。文章强调了常见的 AI 故障模式,如幻觉、上下文丢失和数据解析错误,这些可能导致不准确的取证分析和遗漏威胁指标。作者提醒文章内容是初步的且未经核实。
-
人工智能驱动的网络威胁迫在眉睫,呼吁为形式化方法提供快速资助
人工智能能力的快速发展,特别是在网络攻击方面,对“网络末日”构成了重大威胁。开源模型正在迅速赶上闭源模型,而自主代理可能会加剧这些风险。由于监管障碍、诉讼担忧和兼容性问题,许多行业在采纳防御措施方面固有的缓慢。为了缓解这场迫在眉睫的危机,一个慈善组织正在探索如何快速资助人工智能驱动的形式化方法的开发和应用,以通过数学方法加固现有软件,抵御未来的攻击。
-
Anthropic 的 Claude Mythos 发现 10,000 多个关键软件漏洞
Anthropic 的 Claude Mythos Preview 与 Project Glasswing 合作,已在约 50 个组织中识别出超过 10,000 个高危或关键级别的软件漏洞。这种快速的发现速度,超过了团队验证和修复的速度,导致密码学家 Matthew D. Green 预测,AI 辅助的软件保证可能会显著降低可远程利用的漏洞的可用性。Green 警告说,随着传统黑客途径的减少,这可能会促使人们重新要求政府拥有加密服务的后门。
-
纽约市议员针对麦迪逊广场花园监控;加密辩论加剧
纽约市议员正在倡导禁止在麦迪逊广场花园进行生物识别监控,理由是担心隐私问题。这项由政界人士和音乐家支持的推动,旨在限制在公共场所使用面部识别和其他扫描技术。与此同时,另一场独立的讨论强调了人们的担忧,即广泛采用端到端加密可能会使执法部门更难访问通信内容,从而可能影响调查。
-
LLM API日志可能暴露旧加密信封中的隐藏秘密
研究人员发现,公开分享的LLM API日志可能仍然包含敏感客户数据,例如隐藏在加密推理块中的API密钥和密码。这一漏洞在2026年8月的一份预印本中有所披露,涉及一种重放攻击,即将加密块输入到一个较弱的模型中以提取隐藏内容。虽然Anthropic、OpenAI和Google等提供商已经实施了针对新攻击的缓解措施,但尚不确定他们是否已追溯性地使旧的、已发布的加密信封失效,这使得过去的数据可能仍然暴露。研究人员从公开的代理轨迹中恢复了70…
-
LLM推理痕迹通过API漏洞泄露
一篇新论文揭示了Anthropic、OpenAI和Google的专有LLM API中存在一个漏洞,允许提取和重放加密的推理痕迹。研究人员证明,这些加密的“思维块”在同一提供商生态系统内的模型和会话之间是可互换的。通过将加密痕迹注入较弱的模型,攻击者可以迫使其暴露较强模型的隐藏推理,从而绕过反蒸馏措施。此技术还可以暴露无意中包含在这些隐藏痕迹中的敏感数据,如API密钥和个人信息,并可能实现隐形提示注入。
-
人工智能有望在后量子过渡期间彻底改变密码分析
人工智能有望对密码分析产生重大影响,尤其是在当前向后量子密码学过渡期间。安全专家 Matthew Green 认为,人工智能可以为分析新的密码学问题提供急需的推动力。这一发展可能有助于增强对这些新算法安全性的信心,并丰富密码分析领域。
-
专家评估AI的加密威胁,缓解担忧
Matthew D. Green 发表了一篇文章,分析了Anthropic最近关于其AI可能打破加密系统的公告。该分析旨在缓解对这一发展所带来的即时威胁的担忧,表明尽管结果值得注意,但它们并不对当前加密方法构成迫在眉睫的危险。
-
专家讨论 AI 和科技领域的“原子化一切”概念 · 跟踪 4 个来源
Simon Willison 的博客刊登了一系列引用多位专家关于“原子化一切”主题的帖子。这些帖子包括来自 Matthew D. Green、Bruce Schneier、D. Richard Hipp 和 Akshat Bubna 的见解。讨论涉及 AI、技术、开源和安全,其中一次提到了 Python。