研究人员发现 OpenAI 和 Google 的 AI 模型存在漏洞,图像安全防护措施约有 13% 的时间会被绕过,导致生成不当内容。这表明需要标准化和可复现的 AI 红队测试方法,而不仅仅依赖于更强的过滤器。与此同时,Zenzap 为其旨在取代 WhatsApp 等工作场所消息工具的 AI 聊天应用程序融资 4400 万美元,重点关注组织上下文和 IT 合规性。 AI
影响 AI 模型漏洞凸显了改进安全测试的必要性,而新的工作场所 AI 工具旨在简化业务运营。
排序理由 该集群讨论了 AI 模型漏洞和一家初创公司为其 AI 聊天应用程序融资的情况,涵盖了 AI 应用的产品和安全方面,符合“工具”类别。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →