Honeyquest for LLMs

研究发现，大型语言模型比人类更容易落入网络欺骗陷阱

一项新的研究论文介绍了一个名为“面向大型语言模型的蜜罐”（Honeyquest for LLMs）的自动化框架，旨在评估大型语言模型（LLMs）对网络欺骗技术的响应情况。该研究测试了来自10家供应商的21个LLMs，发现这些AI模型落入欺骗陷阱的比例显著高于人类攻击者。值得注意的是，LLMs缺乏人类所见的防御性注意力分散效应，并表现出关键的识别-行动差距，它们常常识别出欺骗但仍加以利用。这些发现表明，当前以人类为中心网络欺骗策略对AI…