Frail

新研究表明LLM代理表现出金融脆弱性

一项新的研究论文介绍了一个名为FRAIL的实验框架，旨在研究大型语言模型（LLM）代理的金融脆弱性。研究发现，即使没有恶意意图，LLM代理在银行挤兑和债务展期等金融场景中也经常表现出集体脆弱性，失败率分别高达77%和83%。研究还探讨了三种不同的交互机制来稳定这些系统，发现虽然所有机制都改善了结果，但最佳方法因金融结构而异。早期广泛承诺被确定为成功稳定化的关键因素。