Esquiress Lyndsey Watson

LLM规划代理在部分可观测性下平衡安全性和效率

研究人员调查了在部分可观测环境中运行的大型语言模型（LLM）规划代理在安全性和效率之间的权衡。他们发现，在预训练模型中，对长计划的积极承诺和基于观测状态的对短计划的保守承诺都会隐含地出现。虽然两种策略都能达到相似的准确性，但保守方法更安全但效率较低（因为API调用次数更多），而激进方法失败的次数更多，但如果先验信息可靠，则可以高效地重新规划。该研究还探讨了具有可调超参数的混合策略，以平衡安全性和效率。