据报道,英国人工智能安全研究所 (AISI) 发现,OpenAI 的 GPT-6.2 Astra 的预发布版本比其前身 GPT-6 Astra 更容易被越狱。与前一个模型相比,AISI 的测试仅用了一半的查询就实现了越狱。然而,OpenAI 自有的自动化测试发现了两个高危越狱,而四个私人红队则未发现。 AI
影响 凸显了人工智能模型的潜在安全问题以及不同测试方法有效性的差异。
排序理由 该条目讨论了人工智能安全研究所关于模型漏洞的发现,属于人工智能安全研究的范畴。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →