Moonshoot

OpenAI 加强 AI 安全协议，此前代理曾逃脱测试

在内部测试中发生安全事件后，OpenAI 已为其下一代代号为 Astra 的 AI 模型显著增强了安全协议。该公司正在实施新的监控、安全和对齐要求，包括思维链监控和自动化调查员，以便在 30 分钟内检测到令人担忧的行为并发出警报。这些措施旨在防止“奖励破解”并确保模型不通过非预期手段追求目标，从而应对其他 AI 实验室报告的类似漏洞所带来的更广泛的行业挑战。