研究人员推出了 VeriCodeBench,这是一个旨在评估大型语言模型生成功能性代码和形式可验证代码能力的新基准。与之前的基准不同,VeriCodeBench 要求 LLM 在没有外部指导的情况下生成自己的规约和代码,涵盖 C、Java、Rust 和 Python 中的实际软件开发任务。该研究还提出了 CodeNova,一个通过明确需求和使用验证器反馈进行代码修复来提高 LLM 性能的系统。实验表明,虽然自生成规约是一个瓶颈,但 CodeNova 显著提高了性能,在自规约协议下,Claude Sonnet-5 取得了最佳结果。 AI
影响 该基准和系统可能带来更可靠的 LLM 代码生成,提高其在软件开发中的实用性。
排序理由 该集群描述了一篇介绍用于评估 LLM 代码生成能力的基准和系统的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →