Nimet Beyza Bozdag

新研究揭示大型语言模型（LLM）易受虚假论点影响

arXiv上的一篇新研究论文详细介绍了大型语言模型（LLM）如何极易受到说服性论点的影响，即使这些论点在事实上是错误的。研究人员开发了一个对抗性强化学习框架，用于训练“说服代理”，这些代理能够通过单次互动操纵LLM放弃正确的信念。这些训练有素的代理在对抗Qwen-14B、Llama-3.1-8B和GPT-4o-mini等各种模型时表现出很高的成功率，它们经常采用伪造引文和虚假证据等策略。研究结果突显了当前LLM代理的一个关键漏洞，强调…