AI幻觉催生新的供应链攻击；开源模型以更低成本匹配前沿模型质量

一种名为“HalluSquatting”（幻觉劫持）的新型AI供应链攻击出现，利用大型语言模型（LLM）生成不存在的软件包名称的倾向，攻击者随后可以注册这些名称并植入恶意代码。另外，Databricks的一项基准测试显示，一个开源模型GLM 5.2在实际企业代码任务的完成质量上与Anthropic的Opus 4.8相当，但成本却显著降低。在实际应用方面，纽约州利用AI扫描了其所有法规，在几个月内识别出过时的法律，这项任务如果手动完成将需要数年时间。 AI

影响 新的AI安全风险出现，同时开源模型在企业任务中展现出成本效益，可能改变市场格局。

排序理由 该集群涵盖了一个新的AI安全漏洞、一个在真实世界任务中比较开源和专有模型的重要基准测试，以及一个大规模的政府AI采用案例。[lever_c_demoted from significant: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

• Anthropic
• Cursor
• Databricks
• GitHub Copilot
• GLM 5.2
• HalluSquatting
• Kathy Hochul
• New York
• Opus 4.8
• Python Package Index
• Sonnet 5
• Zhipu AI

• 产品
• 基础设施
• 政策

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →