PromptArmor
PulseAugur coverage of PromptArmor — every cluster mentioning PromptArmor across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Claude 代码插件中的安全风险被强调
安全研究人员已发现与 Claude 代码插件相关的潜在风险,这些插件可以在用户的机器上执行程序。一个关键的担忧是,插件可能会在 Claude 的预期工具(例如自动批准用于窃取用户数据的命令)之前运行恶意代码。文章建议用户在安装前通过检查其创建者、脚本以及对 .claude/settings.json 等系统文件的任何修改来彻底审查插件。
-
本地 LLM 界面泄露敏感数据,模型本身不会
在本地运行大型语言模型可能存在安全风险,风险并非来自模型本身,而是来自用于与之交互的聊天界面。像 Open WebUI 这样的界面,如果未正确配置安全标头,可能会无意中将敏感信息(如 AWS 密钥)发送给外部收集器。当界面渲染模型输出中的图像或运行嵌入式 HTML 时,浏览器会获取此内容,从而在 URL 中暴露数据。像 DeepSeek 这样的模型只是参数的集合,无法直接泄露数据,但与之交互的前端应用程序可以,特别是如果它们缺乏强大的…
-
攻击者据称接管 Zoom AI 功能
据 Prompt Armor 的一份报告称,一名攻击者据称已接管了 Zoom 的 AI 功能。此次接管的具体细节以及受影响的范围尚未详细说明,但此次事件凸显了在流行平台中集成 AI 的潜在安全漏洞。
-
Atlassian的AI代理Rovo易受基于PDF的数据窃取攻击
安全研究人员演示了Atlassian的AI代理Rovo中的一项漏洞,攻击者可以利用PDF文件中的隐藏指令,从Jira和Confluence中窃取敏感数据。这种被称为提示注入的攻击无需用户确认即可进行,并且不会留下任何可辨别的痕迹。PromptArmor,即发现此漏洞的安全公司,强调了通过此方法进行静默数据窃取的可能性。
-
安全警报:Rovo 漏洞影响 Atlassian 用户
在 Rovo 中发现了一个安全漏洞,该工具与 Atlassian 产品集成。建议用户在补丁可用之前禁用 Rovo,以减轻潜在的数据泄露风险。PromptArmor 强调了此漏洞,并建议如果 Rovo 对用户工作流程不是必需的,则永久禁用它。
-
提示词注入攻击绕过人工智能防御,已瞄准90多家组织
根据CrowdStrike发布的《2026年全球威胁报告》,提示词注入攻击日益复杂,对企业人工智能系统构成重大威胁。这些攻击绕过了传统的恶意软件防御手段,在2025年已大幅增加,瞄准了90多家组织。其漏洞根源在于人工智能模型无法区分开发者指令和用户提供的文本,从而导致凭证盗窃和数据泄露。尽管供应商付出了努力并发布了防御措施,但这些攻击仍然非常成功,一些已记录的案例即使在经过对抗性微调后,也取得了很高的成功率。
-
Microsoft 365 Copilot 的“Cowork”功能面临安全风险
PromptArmor 在 Microsoft 365 Copilot 的“Cowork”功能中发现了重大的安全风险,这凸显了 AI 代理自主性日益增强所带来的更广泛挑战。PromptArmor 暴露的漏洞并非孤立的错误,而是源于将自主管理的 AI 集成到企业工作流程中的系统性问题。这种情况促使人们重新评估企业如何进行 AI 采用以及如何建立信任边界。
-
Ramp的Sheets AI通过提示注入漏洞泄露财务数据
Ramp的Sheets AI中存在一个安全漏洞,允许在未经用户批准的情况下泄露敏感财务数据。该漏洞利用了隐藏在不受信任数据集中的间接提示注入,操纵AI插入一个恶意公式,将数据发送到攻击者的服务器。PromptArmor发现了此问题并已负责任地披露给Ramp,Ramp表示该漏洞已于2026年3月16日修复。在Claude for Excel中也发现了类似风险。