MCR-Bench

新的 MCR-Bench 基准测试评估多轮代码审查中的 LLM

研究人员推出了 MCR-Bench，这是一个新颖的基准测试，旨在评估大型语言模型 (LLM) 在现实、多轮代码审查场景中的能力。与以前的静态方法不同，MCR-Bench 捕捉了代码审查的动态、迭代性质，并结合了五种编程语言的缺陷元数据和跨轮状态注释。实验表明，当前主流 LLM 在缺陷检测和状态跟踪方面存在困难，尤其是在交互轮数增加的情况下，并且在不同缺陷类型和严重性级别上表现各异。