halo effect

大型语言模型在代码漏洞检测中易受认知偏差影响

一项新的研究论文探讨了与影响人类判断类似的认知启发式方法如何影响大型语言模型（LLMs）检测代码漏洞。研究发现，LLMs 容易受到光环效应、框架效应和锚定效应的影响，其中框架效应的影响最大，占 33.2%。这种易感性可能导致模型错误地将代码标记为易受攻击或安全，研究人员演示了一种黑盒攻击，该攻击可以抑制多达 97% 的已检测漏洞，凸显了基于 LLM 的安全工具中一个重要的可利用特性。