instruct LLMs

大型语言模型代理受外部信息流影响

研究人员开发了一种新的协议来评估外部信息流如何影响大型语言模型代理的决策。他们的研究发现，精心策划的信息流可以显著引导代理的选择，尤其是在代理不确定时。这种被称为“对抗性屈服”的效应在多个大型语言模型和决策领域（包括与安全相关的选择）中都有观察到。虽然简单的防御措施可以在一定程度上缓解这种影响，但该研究强调，在评估大型语言模型代理时，不仅需要审计最终提示，还需要审计信息流的策划层。