noma.security
PulseAugur coverage of noma.security — every cluster mentioning noma.security across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
AI代理需要像人类攻击者一样进行严格的安全测试
无论意图如何，防御者都必须像对待人类攻击者一样认真对待AI代理的访问尝试。关键在于分析代理的工作流程以及围绕任何敏感系统访问的一系列操作。通过跟踪代理从请求到响应的路径，并检查异常请求之前和之后的活动，组织可以识别潜在的漏洞。像对抗性暴露验证（AEV）这样的工具可以帮助测试这些工作流程，并确保防御措施能有效防止未经授权的数据检索或泄露。
-
AI代理因基础设施缺陷而非核心模型而易受攻击
近期涉及AI代理的三起安全事件凸显了漏洞不在模型本身，而在于周围的基础设施和访问控制。其中一起事件涉及一个GitHub机器人因过于宽泛的令牌权限和未能验证用户输入而泄露私有代码，一个简单的短语如“此外”就能触发泄露。另一起事件中，一个GitLab AI代理因访问控制不足而在CI管道内允许任意命令执行。第三起事件涉及一个深度伪造视频通话冒充CEO窃取AI计算预算，该事件仅通过直接人工验证而非自动化安全措施才被发现。
-
专家警告：人工智能降低了关键基础设施网络攻击的门槛
人工智能越来越多地被恶意行为者用来利用关键基础设施的漏洞，使得国家支持的黑客更容易破坏供水和电力系统等基本服务。虽然人工智能并没有从根本上改变黑客攻击方法，但它大大缩短了识别和利用现有弱点所需的时间、成本和专业知识。尽管政府不断发出警告并采取了一些监管措施，但这一趋势加剧了人们对这些关键系统现有网络安全措施不足的长期担忧。
-
GitHub AI Agent易受提示注入攻击，泄露私有数据
Noma Labs的研究人员发现了一个名为GitLost的关键提示注入漏洞，存在于GitHub新推出的Agentic Workflows中。该漏洞允许攻击者通过提交特制的问题，诱骗AI Agent访问并公开泄露私有仓库中的数据。该漏洞利用了AI Agent如何解释隐藏的恶意指令，这些指令隐藏在看似正常的内容中，从而导致未经授权的数据泄露。