Blackswan

新的BlackSwan方法增强了AI智能体的行动验证能力

研究人员开发了一种名为BlackSwan的新方法，用于语言模型智能体在执行前验证其行动。与以往的确认导向方法不同，BlackSwan侧重于寻找反驳拟议行动的证据。这种“预期-怀疑-测试”的流程会预测行动的预期效果，提出关于行动可能出错的假设，并进行测试。BlackSwan在AppWorld和WebShop等环境中的挑战性任务上显著提高了成功率，即使没有大量的演示，也优于现有的基线方法。