Junchen Ding

调查详述了 AI 乱象和漏洞评估中的幻觉问题

一篇新发表在 arXiv 上的调查论文探讨了 AI 驱动的漏洞评估中“AI 乱象”和幻觉的问题。该论文指出了一个核心问题：人类安全专家的演绎推理与当前大型语言模型的概率生成之间的差异。虽然像思维链提示和工具使用代理等技术可以减轻这些问题，但并不能完全解决它们。作者们提议转向主动神经符号验证，并引入了两个评估工具 CVE-Bench 和 Slop-Score，以衡量准确性而非仅仅是语言流畅性。