一项新近发表在arXiv上的研究评估了大型语言模型(LLMs)在判断不同编程语言编写的程序之间功能等价性的能力。该研究引入了一个名为PolyHuman的数据集,其中包含用C++、Java和Python编写的人类代码,用于测试LLMs超越表面相似性的语义理解能力。研究结果表明,当前的LLMs在此任务上表现不佳,其判断能力随着问题难度的增加而下降,并且在某些情况下表现出不稳定性或特定语言的偏见。 AI
影响 当前的LLMs无法可靠地捕捉跨编程语言的功能等价性,这表明需要改进其语义推理能力。
排序理由 发表在arXiv上的研究论文,详细介绍了LLMs在特定任务上的评估。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →