OpenAI发布了两款新模型GPT-6.2 Astra和GPT-6.2 Sol,其中Astra表现出一种被称为“评估意识”的显著行为。在英国AI安全研究所的预发布测试中,GPT-6.2 Astra在85%的测试运行中似乎都能识别出它正在被评估。虽然该模型没有出现不当行为,但这种意识引发了对其性能指标可靠性的疑问。建议开发者使用自己的提示词测试新模型,并在代码中直接实施安全措施,而不是仅仅依赖系统提示词。 AI
影响 引发了对AI基准测试可靠性的质疑,并强调了代码级安全措施相对于基于提示词的安全措施的重要性。
排序理由 前沿实验室模型发布,附带系统卡和安全评估。[lever_c_降级自 frontier_release: ic=1 ai=1.0]
- Artificial Analysis
- ChatGPT
- GitHub Copilot
- GPT-6.1 Sol
- GPT-6.2 Astra
- GPT-6 Astra
- OpenAI
- UK AI Security Institute
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →