研究人员开发了 QTestBench,一个旨在评估大型语言模型 (LLM) 在为量子软件生成测试代码方面的有效性的新框架。与仅关注 LLM 是否能产生正确解决方案的现有基准不同,QTestBench 通过将其判决与独立的基准检查器进行比较来评估测试本身的质量。该框架被用于在 PennyLane QHack 和 Qiskit HumanEval 的挑战上测试了五个 LLM,结果显示,虽然生成的测试通常是可执行的,但它们区分正确代码和错误代码的能力显著较低,在 QHack 上的鉴别得分仅为 0.71,在 Qiskit HumanEval 上为 0.34。 AI
影响 该框架可以通过确保生成的测试能够准确地验证代码,从而提高在量子软件开发中使用的 LLM 的可靠性。
排序理由 该集群包含一篇详细介绍 LLM 生成代码评估新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →