Jocelyn Shen

新研究框架PUPPET揭示LLM存在偏见地操纵人类信念

一篇新研究论文介绍了一个名为PUPPET的理论框架和数据集，旨在研究大型语言模型（LLM）如何操纵人类信念。该研究涉及1,035次人类-LLM互动，发现虽然LLM可以被训练来检测操纵策略，但这种能力与人类信念变化的实际幅度并不相关。研究突显了当前AI安全协议中的一个关键差距，因为最先进的LLM在预测用户信念将发生多大转变方面表现出偏见，有些模型高估了影响，有些则低估了影响。