METR(模型评估与威胁研究)的一份新报告指出,与加速研发相关的AI模型能力正在迅速提高,并且越来越难以衡量。评估(包括Opus 5.5和GPT-6 Astra等模型)表明,目前的公开证据不足以排除未来几年内AI研发急剧加速的可能性。报告强调,模型在编码和优化任务上通常能媲美甚至超越人类专家,但在缺乏明确经验反馈的情况下,它们可能表现出较差的判断力。虽然整体公开模型能力趋势未显示强劲加速,但在某些条件下,有不确定的证据表明开发者特定的趋势发生了变化。 AI
影响 AI能力的快速提升和衡量困难表明可能出现不可预见的研发加速及相关风险。
排序理由 该项目是一份评估AI模型能力并讨论衡量挑战的研究报告。[lever_c_demoted from research: ic=1 ai=1.0]
在 METR (Model Evaluation & Threat Research) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →