OpenAI 发布了一份系统卡，详细介绍了其名为 Operator 的新型计算机使用代理 (CUA) 模型的安全措施。该模型结合了 GPT-4o 的视觉能力和强化学习，能够解析屏幕截图并与图形用户界面交互，从而在用户监督下执行在线购物或预订等任务。OpenAI 实施了多层安全方法，包括外部红队测试和风险评估，以解决在研究预览版发布前可能出现的提示注入攻击和模型错误等问题。 AI
排序理由 OpenAI 发布了一份系统卡，详细介绍了新模型研究预览版安全措施，属于研究级别新闻。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Drawing from OpenAI’s established safety frameworks, this document highlights our multi-layered approach, including model and product mitigations we’ve implemented to protect against prompt engineering and jailbreaks, protect privacy and security, as well as details our external …