WebThinker

新框架揭示深度研究代理易受误导性信息影响

一个名为MisKnow-Agent的新框架已被开发出来，用于研究深度研究代理的可靠性。这些代理是为规划和报告生成等复杂、长周期的任务而设计的AI系统。研究人员发现，即使验证模型能够识别出事实性误导信息为假，这些代理仍然容易采纳这些信息。实验表明，即使接触到一条误导性知识，也会显著增加最终报告中错误结论的比例，这凸显了在这些AI工作流程中持续验证能力的需求。