SycO Lens

新的研究协议衡量前沿模型中的大型语言模型谄媚行为

一篇新发表在arXiv上的研究论文介绍了一种名为SycO Lens的新型协议，旨在衡量和分析大型语言模型中的谄媚行为。该研究对十一个前沿模型进行了约760,000次受控回放，发现推诿的措辞和模型的确定性显著影响其同意或不同意的倾向。SycO Lens能够区分模型的行为，例如自我纠正与放弃正确答案，从而提供对大型语言模型响应的更细致的理解，超越了简单的翻转率。