English(EN) Under the Influence: Evaluating and Improving LLM Vigilance in Agentic Tasks

新研究强调大型语言模型代理易受恶意影响

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-26 04:00

一篇来自arXiv的新研究论文探讨了大型语言模型（LLM）代理的“警惕性”概念，即它们辨别和利用有益建议同时摒弃恶意或无用信息的能力。研究发现，当前前沿的LLM在各种任务中极易受到负面影响，包括浏览危险网站、规避诈骗和修补代码。为解决此问题，研究人员提出了一种“警惕性约束”，该约束采用贝叶斯推理来帮助代理决定是否采纳建议，从而提高安全性并保留积极影响的好处。 AI

影响突出了当前大型语言模型代理的一个关键安全漏洞，可能影响自主人工智能系统的开发。

排序理由关于大型语言模型安全性和能力的学术论文。[lever_c_research降级：ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 15 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 关于大型语言模型安全性和能力的学术论文。[lever_c_research降级：ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Sasha Robinson, Katherine M. Collins, Ilia Sucholutsky, Kelsey R. Allen · 2026-10-26 04:00

影响之下：评估和改进智能体任务中的大型语言模型警惕性

arXiv:2602.21262v4 Announce Type: replace Abstract: Large Language Models (LLMs) are becoming increasingly autonomous assistants, capable of accomplishing series of complex tasks by interacting with open world domains such as software databases and the internet. This presents gre…

本文如何被排名

报道来源 [1]

影响之下：评估和改进智能体任务中的大型语言模型警惕性

相关实体

相关话题