PulseAugur
实时 20:13:22
English(EN) I had a local LLM review the same code 51 times: majority voting picks persistence, not correctness

研究发现 LLM 代码审查偏好持续性而非正确性

一项使用本地 Qwen2.5-Coder 模型的实验表明,LLM 对代码进行重复审查,尤其是在启用采样的情况下,往往会收敛于持续性的发现而非准确的发现。当温度设置为 0 时,模型产生相同的结果,但将温度提高到 0.7 会引入显著的变异性。对这些不同发现进行多数投票,通常会选择一致但错误的错误报告,而不是频率较低但准确的报告,这凸显了在使用 LLM 生成的代码审查时可能存在的陷阱。 AI

影响 凸显了在使用 LLM 生成的代码审查时可能存在的缺陷,表明多数投票可能会选择持续性的错误而非正确的发现。

排序理由 该条目详细介绍了一项实验及其关于 LLM 在代码审查任务中行为的发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

研究发现 LLM 代码审查偏好持续性而非正确性

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · tauridev ·

    I had a local LLM review the same code 51 times: majority voting picks persistence, not correctness

    <p>If you use an LLM to review code — or run it several times and keep "whatever most runs agree on" — this experiment suggests the votes you're counting measure <strong>persistence</strong>, not <strong>correctness</strong>.</p> <h2> TL;DR </h2> <p><em>Setup: Qwen2.5-Coder 1.5B …