一篇新论文提出,网络代理应从主流的ReAct范式转向编译执行方法。作者认为,ReAct将运行时网络内容直接输入模型会增加被提示注入攻击的风险。相反,编译执行模型在观察网络内容之前会承诺执行一项特定任务的程序,从而将不受信任的数据隔离在预定义的执行图中。该论文分析了WebArena基准测试,发现大多数任务都与提议的范式兼容,并且有很大一部分可以在没有运行时LLM子程序的情况下执行。确定的主要障碍是缺乏网络交互的语义、类型化接口,目前这些接口依赖于通用的浏览器操作,如点击和滚动。 AI
影响 这项研究可以通过减轻提示注入风险来增强基于网络的AI代理的安全性和可靠性。
排序理由 学术论文,提出了一种新的AI代理范式。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →