Sonatype Inc.
PulseAugur coverage of Sonatype Inc. — every cluster mentioning Sonatype Inc. across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
恶意软件通过软件更新和AI代码生成传播
文章讨论了通过软件更新自动化工具传播恶意软件的威胁日益增加，特别是在npm注册表中。虽然恶意软件包并非新鲜事物，但一个利用包注册表作为传输层的蠕虫代表着重大升级。文章作者是GitHub的Dependabot团队负责人，他强调，像Dependabot这样的自动化工具虽然旨在提高安全性，但如果审查不当，可能会无意中传播恶意软件。文章还触及了与AI生成代码相关的安全风险，指出许多模型会生成有缺陷的代码，甚至会建议不存在的软件包，然后攻击者会…
-
AI幻觉缓解研究与新的“HalluSquatting”安全威胁发生冲突
研究人员正在开发新的方法来对抗AI幻觉，这是一个语言模型生成事实错误信息的重要问题。一种方法G-Frame，采用受博弈论和贝叶斯原理启发的多元代理框架来训练一个名为OmniChem的专业模型，该模型显示幻觉显著减少。另一种策略HalMit，采用黑盒监视器框架来检测幻觉，而无需访问模型内部。与此同时，一种名为“HalluSquatting”的关键安全漏洞已经出现，攻击者利用AI对不存在的软件包的幻觉，诱骗AI代理下载并运行恶意代码，对各…
-
专家警告：隐藏的大语言模型后门构成巨大安全风险
研究人员和投资者越来越担心大型语言模型中隐藏的后门，这些后门可能被远程触发以窃取敏感数据。Anthropic 的研究人员在 2024 年 1 月的一篇论文中展示了这些“睡眠代理”可以绕过标准的安全性训练，使其难以检测。尽管一些专注于 AI 安全的初创公司已经获得了大量融资，但针对 AI 的防御性投资总体上远远落后于模型部署的速度，这使得企业面临风险。Microsoft Research 提出了一种名为“机制验证”的方法，通过分析模型的…