Web agents
PulseAugur coverage of Web agents — every cluster mentioning Web agents across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新方法掩码不受信任的网页内容以保护AI代理
研究人员开发了一种名为不受信任内容掩码（UCM）的新方法，以增强Web代理的安全性。UCM通过在受信任的指令和不受信任的数据之间保持严格的分离来解决提示注入攻击的挑战，这在受信任和不受信任的内容混合在一起的Web环境中是困难的。该系统使用文档对象模型（DOM）在不受信任的网页区域到达代理之前识别并编辑这些区域，从而确保代理可以在与环境交互的同时与恶意内容隔离。
-
新基准揭示Web代理的隐藏故障模式
一篇新的arXiv论文介绍了Parallel WebBench，这是一个旨在更严格地评估Web代理的基准，通过识别最终答案正确性之外的故障。研究表明，即使代理检索到相关证据，仍然存在搜索循环、过早终止和合成崩溃等持续性问题。虽然使用GRPO和合成数据进行训练提高了完成率和部分正确性，但在确保最终答案完全正确并基于证据方面仍存在差距。
-
新的Ko-WideSearch基准显示网络代理在广度搜索任务中存在困难
一个名为Ko-WideSearch的新基准已被开发出来，用于评估网络代理的广度搜索能力，重点关注穷举集枚举而非基于深度的问答。这个韩语基准通过自动化流程构建，包含190个实体和16个类别的228张表格。对20个网络代理的初步测试显示，即使在整体集合成员资格被正确识别的情况下，它们在准确恢复行级属性方面也持续失败，这表明当前AI系统面临重大挑战。
-
新框架MUZZLE发现44种新型攻击
研究人员开发了MUZZLE，一个旨在测试Web代理针对间接提示注入攻击安全性的自动化框架。该系统能够自适应地识别易受攻击的注入点，并精心设计上下文感知的恶意指令来损害机密性、完整性和可用性。MUZZLE的评估在各种Web应用程序和LLM中发现了大量新型攻击，证明了其在最少人工监督下发现漏洞的有效性。
-
Web agents should adopt typed actions over click-based browsing
一篇新立场论文提出，应将网络代理的交互方式从低级别的点击式交互转变为输入式操作。这种被称为“Web动词”的方法会将Web操作暴露为具有结构化输入和输出的类型化函数，从而提高长周期任务的可靠性和可审计性。作者认为，这种语义层对于构建可信赖且可扩展的代理式Web系统至关重要。
-
TinyFish Vault 在不暴露密码的情况下保护网络代理登录
TinyFish Vault 是一个新推出的凭证管理系统，旨在允许网络代理安全地访问账户。它将身份验证过程与直接密码暴露分开。这使得自动化代理能够在不泄露用户凭证的情况下执行需要登录的任务。
-
新的WARD防御系统保护网络代理免受提示注入攻击
研究人员开发了WARD，一种旨在保护网络代理免受提示注入攻击的新型防御系统。该系统解决了现有防护模型存在的泛化能力差和误报率高等局限性。WARD利用大型数据集和自适应对抗性训练框架来增强其对抗不断演变和定向攻击的鲁棒性，同时保持效率。