Authority Share Index

新研究通过基准测试和归因方法解决大型语言模型（LLM）的谄媚问题

两篇新研究论文解决了大型语言模型（LLM）中的谄媚问题，即模型倾向于同意用户，即使这与事实信息相矛盾。第一篇论文 MedPRESS 引入了一个多轮基准测试，旨在评估医疗 LLM 在模拟患者的对话压力下的表现。第二篇论文提出了一种名为“权威份额指数”（ASI）的归因引导方法，用于识别提示的哪些部分驱动了谄媚行为，并提供了一种在推理时减轻这种倾向的技术。