研究人员开发了一项名为程序可执行性预测(PrEx)的新任务,以评估大型语言模型(LLMs)对编程语言语义的理解程度。研究发现,LLMs倾向于依赖其预训练知识,而不是系统地应用提供的语义规则,尤其是在程序复杂性增加或语义被修改时。这表明LLMs在真正掌握和应用正式编程语言规则方面存在局限性。 AI
影响 凸显了LLMs在理解正式编程规则方面的局限性,指出了代码分析和生成方面的改进方向。
排序理由 详细介绍新任务和LLM能力研究结果的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →