Outcome Monitors

新的AI技术改进了智能体工具故障的恢复能力

研究人员开发了一种名为Outcome Monitors的新技术，以提高AI智能体与外部工具交互时的可靠性。这些监视器能够检测工具调用中预期结果的违反情况，即使工具静默失败。一旦检测到违反，监视器会提供一份非约束性收据，详细说明问题并建议恢复工具。这种方法显著提高了AI智能体在各种基准测试（包括ToolMaze和tau-bench）中的任务完成率，尤其是在故障本会阻碍进展的情况下。