PulseAugur
中
实时 04:22:55
实体 Web agents

Web agents

PulseAugur coverage of Web agents — every cluster mentioning Web agents across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
5
90 天内 11
发布 · 30天
0
90 天内 0
论文 · 30天
5
90 天内 11
层级分布 · 90 天
主题
情绪 · 30 天

2 天有情绪数据

最近 · 第 1/1 页 · 共 12 条
  1. TOOL · CL_360189 ·

    机制可解释性难以解释 LLM 代理的幻觉

    研究人员正在探索应用机制可解释性 (MI) 来理解基于大型语言模型 (LLM) 的代理中的失败,特别是关注那些产生幻觉行为的网络代理。一项使用 Qwen2.5-7B-Instruct 的案例研究表明,线性探针可以以 0.80 的 AUC 预测幻觉并纠正其中 85% 的幻觉,尽管它也干扰了 7% 的有效行为。然而,该方法的有效性受到提示格式敏感性和计算在多个组件之间分布式计算的限制,这对标准的 MI 电路发现技术构成了挑战。

  2. RESEARCH · CL_357619 ·

    VLMs 中发现新的 SISS 漏洞,ScaleGuard 提供防御

    研究人员发现了一种在视觉语言模型(VLMs)和网络代理中存在的安全漏洞,称为尺度诱导语义偏移(SISS)。当图像变换(例如激进的降采样)改变图像的可机器读取语义时,就会发生这种漏洞,从而使隐藏的文本指令得以恢复。为此开发了一个新框架 ScaleGuard,在某些场景下将攻击成功率从 60% 以上显著降低到约 24%。虽然对网络代理行为的影响仍然很低,但这些发现突显了多媒体预处理中存在的语义不一致性,需要进行尺度一致的视觉语言推理。

  3. RESEARCH · CL_317624 ·

    新的AgentVQA基准揭示了VLM在视觉理解方面的局限性

    研究人员推出了AgentVQA,这是一个新的离线基准,旨在评估智能体任务中视觉语言模型(VLM)的视觉理解能力。该基准包含来自五个领域(Web智能体、机器人、自拍视频、游戏和空间规划)的1000个真实世界示例。对22个VLM的评估显示,即使是表现最好的模型,准确率也仅为58.5%,主要的失败模式被确定为视觉基础和状态跟踪问题,而非任务解释问题。

  4. RESEARCH · CL_294740 ·

    新方法和数据集提升 AI 基础 GUI 元素的能力 · 跟踪 4 个来源

    研究人员开发了新的方法和数据集来改进 GUI 基础,即 AI 代理将自然语言指令映射到特定屏幕界面元素的能力。GroundGUI 项目引入了包含超过 586K GUI 屏幕截图的 ScreenRef 数据集,以及一种蒸馏强化学习 (D2RL) 技术来训练 Qwen3-VL-8B-Instruct 等模型,从而产生了 GroundGUI-8B 模型。此外,ConClick 框架使用元素级对比学习和新的目标-干扰对数据集来提高基础准确性,…

  5. RESEARCH · CL_332636 ·

    AI代理研究应对可靠性、效率和发现挑战 · 跟踪10个来源

    近期研究论文探讨了增强AI代理的可靠性和效率的方法,特别是在涉及工具执行和模型发现的复杂任务中。研究解决了诸如确保中断工具操作的幂等性、防止部署代理中的依赖关系伪造以及为测试交互式软件合成检查点等问题。其他工作则侧重于代理知识工程、面向长时任务的语义上下文交接以及用于代理设计的执行引导遗传重组,旨在提高性能并降低计算成本。

  6. RESEARCH · CL_128543 ·

    新方法掩码不受信任的网页内容以保护AI代理

    研究人员开发了一种名为不受信任内容掩码(UCM)的新方法,以增强Web代理的安全性。UCM通过在受信任的指令和不受信任的数据之间保持严格的分离来解决提示注入攻击的挑战,这在受信任和不受信任的内容混合在一起的Web环境中是困难的。该系统使用文档对象模型(DOM)在不受信任的网页区域到达代理之前识别并编辑这些区域,从而确保代理可以在与环境交互的同时与恶意内容隔离。

  7. TOOL · CL_117697 ·

    新基准揭示Web代理的隐藏故障模式

    一篇新的arXiv论文介绍了Parallel WebBench,这是一个旨在更严格地评估Web代理的基准,通过识别最终答案正确性之外的故障。研究表明,即使代理检索到相关证据,仍然存在搜索循环、过早终止和合成崩溃等持续性问题。虽然使用GRPO和合成数据进行训练提高了完成率和部分正确性,但在确保最终答案完全正确并基于证据方面仍存在差距。

  8. RESEARCH · CL_115252 ·

    新的Ko-WideSearch基准显示网络代理在广度搜索任务中存在困难

    一个名为Ko-WideSearch的新基准已被开发出来,用于评估网络代理的广度搜索能力,重点关注穷举集枚举而非基于深度的问答。这个韩语基准通过自动化流程构建,包含190个实体和16个类别的228张表格。对20个网络代理的初步测试显示,即使在整体集合成员资格被正确识别的情况下,它们在准确恢复行级属性方面也持续失败,这表明当前AI系统面临重大挑战。

  9. TOOL · CL_93479 ·

    新框架MUZZLE发现44种新型攻击

    研究人员开发了MUZZLE,一个旨在测试Web代理针对间接提示注入攻击安全性的自动化框架。该系统能够自适应地识别易受攻击的注入点,并精心设计上下文感知的恶意指令来损害机密性、完整性和可用性。MUZZLE的评估在各种Web应用程序和LLM中发现了大量新型攻击,证明了其在最少人工监督下发现漏洞的有效性。

  10. TOOL · CL_79926 ·

    Web agents should adopt typed actions over click-based browsing

    一篇新立场论文提出,应将网络代理的交互方式从低级别的点击式交互转变为输入式操作。这种被称为“Web动词”的方法会将Web操作暴露为具有结构化输入和输出的类型化函数,从而提高长周期任务的可靠性和可审计性。作者认为,这种语义层对于构建可信赖且可扩展的代理式Web系统至关重要。

  11. TOOL · CL_39498 ·

    TinyFish Vault 在不暴露密码的情况下保护网络代理登录

    TinyFish Vault 是一个新推出的凭证管理系统,旨在允许网络代理安全地访问账户。它将身份验证过程与直接密码暴露分开。这使得自动化代理能够在不泄露用户凭证的情况下执行需要登录的任务。

  12. RESEARCH · CL_32655 ·

    新的WARD防御系统保护网络代理免受提示注入攻击

    研究人员开发了WARD,一种旨在保护网络代理免受提示注入攻击的新型防御系统。该系统解决了现有防护模型存在的泛化能力差和误报率高等局限性。WARD利用大型数据集和自适应对抗性训练框架来增强其对抗不断演变和定向攻击的鲁棒性,同时保持效率。