新的编码基准测试正在涌现,旨在超越传统指标,检验AI在软件工程方面更深层次的能力。Program-Bench要求AI代理根据编译后的二进制文件和文档重建代码,而SRE-Bench则评估AI仅凭二进制文件理解程序功能的能力。代码迁移基准测试用于评估AI在不同语言中重新实现现有程序的能力。早期结果显示,GPT-6 Astra、Fable 5.1和Claude Opus 5等模型在这些挑战性任务上的表现各不相同。 AI
影响 这些基准测试有望推动能够执行复杂软件工程任务的更先进AI代理的开发。
排序理由 该条目讨论了用于评估AI模型编码能力的新基准测试,属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
- Claude Opus 5
- Code Llama
- Code Migration
- DeepSeek Coder
- Fable 5.1
- GLM 5.3
- GPT 5.6 Luna
- GPT 5.6 Sol
- GPT-6 Astra
- Kimi K3
- Llama 2
- Mistral AI
- Mixtral
- Phind
- Program-Bench
- SRE-Bench
- StarCoder2
- WizardCoder: Empowering Code Large Language Models with Evol-Instruct
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →