PulseAugur
实时 10:27:06
English(EN) Evaluating and Mitigating the Misguidance Effect of Buggy Code in LLM-Generated Unit Tests

新指标量化 LLM 在单元测试中受错误代码的误导

一篇新论文介绍了一种量化“误导效应”的指标,即错误代码会诱导大型语言模型(LLM)生成验证不正确行为而非暴露不正确行为的单元测试。这种效应会导致更多误导性的测试和更少的有效测试。为了解决这个问题,研究人员提出了一种基于规范的提示方法,该方法使用 LLM 生成的文档字符串而不是错误代码本身,从而显著提高了对错误代码和无错误代码的测试生成。 AI

影响 这项研究可以提高 LLM 生成代码的可靠性,使其在软件开发中更有用。

排序理由 学术论文,介绍了一种用于评估 LLM 生成的单元测试的新指标和方法。 [lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新指标量化 LLM 在单元测试中受错误代码的误导

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Junda Zhao, Shurui Zhou, Eldan Cohen ·

    Evaluating and Mitigating the Misguidance Effect of Buggy Code in LLM-Generated Unit Tests

    arXiv:2607.22883v1 Announce Type: cross Abstract: While Large Language Models (LLMs) show great promise for automating unit test generation, recent studies suggest that the quality of generated tests can be negatively impacted when models are prompted with buggy code. This paper …