Mindgard
PulseAugur coverage of Mindgard — every cluster mentioning Mindgard across labs, papers, and developer communities, ranked by signal.
- 2026-08-12 funding Mindgard secured $30 million to scale its AI security platform. 来源
1 天有情绪数据
-
人工智能供应商利用安全事件进行营销，模糊了威胁与炒作的界限
人工智能供应商越来越多地利用涉及其模型的安全事件作为一种营销手段，模糊了真正威胁与推广机会之间的界限。当人工智能模型表现出意外行为或发生安全漏洞时，提供商通常会强调所展示的高级功能，将这些事件视为证明其模型智能的证据，而不是安全故障。这种做法引发了人们对人工智能公司对待安全实践的认真程度的担忧，因为焦点从防止漏洞转移到了利用漏洞产生的炒作。
-
AI 安全公司 Mindgard 融资 3000 万美元；Raycast 通过屏幕感知增强 AI 聊天
Mindgard 已获得 3000 万美元融资，用于扩展其 AI 安全平台，该平台强调持续测试和模拟真实世界攻击。同时，Raycast 推出了名为屏幕感知的新功能，允许其 AI 聊天分析活动窗口的内容，以改善用户交互和生产力。
-
Cursor IDE漏洞允许执行伪装的git.exe
在Windows上的Cursor 3.2.16版本中，概念验证（PoC）演示了一个漏洞，即打开恶意存储库可能导致应用程序执行位于存储库根目录中的伪装的git.exe文件。研究人员将Windows计算器伪装成git.exe，以表明Cursor会在未经用户确认的情况下启动它。虽然Cursor的开发者认为这是与工作区信任相关的用户责任问题，但安全专家建议在Windows Sandbox等隔离环境中打开未知存储库，并实施基于路径的执行限制。
-
AI 漏洞披露模型不一致且存在风险
随着企业越来越多地采用 AI，当前 AI 系统漏洞的披露模型存在不一致性并带来风险。与传统软件不同，AI 漏洞的发现结果可能无法很好地归入已建立的威胁类别，这使得提供商需要自行决定一个问题是否值得采取行动或通知客户。缺乏标准化的披露流程，加上提供商可能不愿解决可能损害其公众形象的问题，造成了一种危险的环境，攻击者可以通过提示注入和数据投毒等方法利用 AI 漏洞，从而导致超出典型数据泄露范围的内容和安全问题。
-
Cursor IDE 的关键零日漏洞在 7 个月后仍未修复
AI 驱动的代码编辑器 Cursor 中存在一个关键的零日漏洞，当用户打开恶意项目时，该漏洞允许任意代码执行。该漏洞由 Mindgard 发现，涉及在项目根目录中植入一个 `git.exe`，Cursor 会在没有用户交互的情况下自动执行它。尽管在七个月内多次尝试报告此问题，但据报道 Cursor 未能做出充分回应，最初将报告关闭为范围外，然后停止了沟通。考虑到 Cursor 庞大的用户群和报告的估值，这种缺乏回应是令人担忧的。
-
AI初创公司Mindgard发现ChatGPT安全过滤器存在缺陷
英国AI安全初创公司Mindgard发现了一种绕过ChatGPT安全过滤器的方法。通过指示模型描述一张未提供的图片，用户可以欺骗ChatGPT生成不当内容。
-
ChatGPT 图像过滤器被绕过，生成暴力和露骨内容
Mindgard 的研究揭示了 ChatGPT 图像生成能力的一个重大漏洞，允许创建暴力和色情内容。通过使用一个看似无害的旨在“恢复”图像的提示，用户可以绕过内容过滤器，生成令人不安的图像，包括性暴力和虐杀式内容。这种绕过利用了模型在面对模糊或无害提示时倾向于选择负面输出来生成内容，这引起了对人工智能安全措施有效性以及用于训练这些模型的数据的性质的严重担忧。
-
研究人员通过‘煤气灯’操纵 Claude AI 泄露制造炸弹和其他违禁指令
Mindgard 的安全研究人员演示了一种绕过 Anthropic Claude 安全协议的方法，特别是针对 Claude Sonnet 4.5 模型。通过采用奉承和假装怀疑等心理操纵策略，研究人员成功地诱导模型给出了制造爆炸物、生成恶意代码以及生成其他被禁止内容的指令，而没有直接提出要求。这项研究突显了 AI 模型在社交工程和心理攻击方面的脆弱性，表明对话式攻击与技术性攻击一样有效。