LLM agent
PulseAugur coverage of LLM agent — every cluster mentioning LLM agent across labs, papers, and developer communities, ranked by signal.
- 2026-05-21 product_launch A developer built and documented a local LLM agent for automating work list generation.
7 天有情绪数据
-
LLM代理设计克隆流程,无需手动输入序列
已开发出一种大型语言模型代理,可设计克隆流程,无需手动编写序列。该方法利用代理的概念化和规划克隆程序的能力,有望简化生物学研究和开发。
-
AI代理自动化数据可视化算法设计与精炼
研究人员开发了代理式AI流程,以自动化数据可视化算法的设计和精炼。例如,AutoManifold使用LLM编排,从基本组件组合新的流形嵌入算法,并根据用户指定的结构优先级进行定制,其性能优于t-SNE和UMAP等传统方法。另一个系统将基于LLM的定性判断与定量评估相结合,以迭代地精炼可视化图表,提供解释指标并建议配置改进以更好地发现模式的报告。
-
LLM 代理需要严格的身份和权限控制来进行电子邮件测试
两篇文章讨论了使用 LLM 代理进行自动化测试的安全影响,特别是在电子邮件验证流程中。核心问题是确保 LLM 代理在使用电子邮件服务等工具时拥有最少、有时限的权限。这可以防止代理越权、重用旧数据或创建难以管理的资源。提出的解决方案是在代理和底层基础设施之间建立一个清晰的契约,基础设施对代理可以对给定电子邮件或邮箱执行的操作施加严格限制,确保每次测试运行都有一个唯一的、临时的身份。
-
LLM代理协助编程工业自动化PLC
某人开发并演示了一个LLM代理,该代理能够为工业自动化任务编程可编程逻辑控制器(PLC)。该代理离线运行,使用的token很少,可以生成梯形逻辑并通过CSV导入数据。虽然它仍然会犯错误并需要人工监督,但开发者认为它可以极大地协助工程师,而不是取代他们。该工具在先进模型甚至一些中国模型上都显示出有希望的结果,但目前仅提供印尼语版本。
-
新的工具跟踪LLM代理工具参数以用于安全研究
开发了一个新的测试工具,通过在工具参数执行前详细跟踪其来源来增强AI代理的安全性。该工具旨在衡量模型在相同输入下的决策一致性,并检测模型是否不当使用了外部文本的参数,而不是预期的用户输入。该项目可在GitHub上找到,被呈现为一个可供研究AI模型和代理行为的研究人员修改的资源。
-
LLM 智能体在新机器人操作基准测试中表现优于传统策略
研究人员开发了 SO-101 Bench,这是一个用于语言条件空间操作任务的模拟环境,使用低成本机器人手臂。该基准测试建立在真实 SO-101 设置的 Isaac Lab 数字孪生之上,包含各种任务、对象和评估回合,以测试机器人策略。该模拟能够准确地将策略与现实世界硬件进行排名,其中 LLM 智能体通过编写代码并与学习到的策略集成,取得了 83.2% 的分数,而传统的视觉-语言-动作策略得分约为 61%。
-
AI代理获得先进的内存系统以处理复杂任务 · 跟踪10个来源
arXiv上发表的多篇研究论文探讨了用于AI代理的高级内存系统,重点是提高它们处理长期任务和复杂交互的能力。CoReMem和DISCERN分别提出了管理内存的新框架,通过内化成本和解决歧义。AstroMemBench为航天器代理引入了一个基准,而HeMeR和MemCredit则侧重于协调异构内存模块以及优先考虑决策效用而非仅仅是相关性。此外,关于程序演化和训练后蒸馏的研究旨在发现和优化代理内存设计,以提高从编码到生物医学应用的各种领域…
-
新型“范围-差距注入”攻击绕过LLM代理安全检查
研究人员开发了一种名为范围-差距注入(SGI)的新型攻击方法,用于绕过多阶段LLM代理安全管线的安全措施。该技术利用了一个漏洞,即安全检查(S2)检查任务指令但不检查附件内容,而代理在执行(S3)期间会访问这些附件。通过将恶意负载隐藏在附件中,SGI在IJCAI 2026 OpenClaw Agent Security Competition的19个目标中有5个成功绕过了所有三个安全阶段,其中一项提交获得了0.385的F1分数。该论文…
-
LLM 策略网关成功阻止了 60 次提示注入尝试
一位安全研究员测试了一个旨在保护 LLM 代理免受提示注入攻击的策略网关,发现它成功阻止了所有恶意尝试。该网关使用 Python 实现,针对 Sonnet 和 Haiku 两个模型进行了测试,使用了十五份不同的文档,包括直接覆盖和隐藏指令。虽然网关阻止了漏洞,但在呈现原始、未包装的文档时,Sonnet 偶尔会尝试执行有害操作,但这些操作最终被网关的策略阻止了。
-
AI 代理需要像新员工一样的入职培训和银行柜员式的控制
两篇文章建议像对待新员工或银行柜员一样对待 AI 代理,以提高其采用率和安全性。第一篇文章来自 Forbes,主张像管理新员工一样管理 AI 代理,调整期望、提供反馈并给予宽限期。这种方法旨在减少挫败感和对失业的恐惧。第二篇文章来自 dev.to,将 LLM 代理与银行柜员进行比较,强调需要像“门禁”这样的外部控制来管理工具使用并防止提示注入。它还强调了记录所有交易(包括失败的交易)以及实施速率限制以捕获潜在的滥用的重要性。
-
新的RT-J模型在关系数据上提供上下文高效预测
研究人员推出RT-J,这是一种新的8500万参数关系基础模型(RFM),专为表格和关系数据上的上下文高效预测而设计。与现有方法相比,该模型仅用少量示例即可实现准确的预测。RT-J通过在大量网络爬取数据库的数据集上进行预训练,并利用一种新颖的轻量级检索器来获取上下文示例,以及通过上下文调整和集成来提高性能。
-
2026年AI业务发展指南:RAG、代理和LLM集成
本文为企业在2026年提供了一份实用的AI发展指南,重点关注检索增强生成(RAG)系统、自主AI代理和设备端视觉等关键领域。它还深入探讨了投资回报率框架和安全的LLM集成,提供了实际实施策略。该指南旨在帮助企业驾驭不断发展的AI技术格局,以实现实际应用和职业发展。
-
AI代理通过TIA Portal对西门子工业控制器进行编程
一个名为WorkBuddy的AI代理通过MCP桥接器与西门子TIA Portal V19软件交互,成功编程了西门子S7-1500工业控制器。该代理的任务是实现一个传送带分拣控制程序,包括创建可重用功能块、处理状态转换以及确保确定性输出值。值得注意的是,AI代理在生成代码之前优先设置了验证环境,展示了工程任务的结构化方法。
-
新研究解决大语言模型智能体故障检测和归因问题
两篇新研究论文探讨了检测和归因使用工具的大语言模型(LLM)智能体故障的方法。第一篇论文强调,简单的基线方法,如运行长度或最后一步,在故障检测方面效果出奇地好,通常优于更复杂的方法。第二篇论文介绍了SOAP(Spectral scOring with Attention-guided Propagation)框架,该框架通过分析大语言模型的表示并传播错误信号,在无需步级标签的情况下进行故障归因。两项研究都旨在改进大语言模型智能体故障的调试和理解。
-
AI编码代理引发安全担忧;微软推出MXC 1.0
开发人员越来越多地使用AI编码代理,但对其安全性和权限的担忧日益增长。为解决此问题,微软推出了Execution Containers (MXC) 1.0,社区也在探索自托管代理解决方案。文章详细介绍了如何使用Docker和bubblewrap等Linux工具为这些代理沙箱化工具执行,强调了一个将代理视为不受信任代码的威胁模型。这包括限制它们对系统资源的访问并阻止它们执行任意命令,从而减轻意外错误、提示注入和供应链攻击带来的风险。
-
本体塔增强工业设备的LLM智能体
研究人员开发了一种“本体塔”,以增强操作工业设备的LLM智能体的知识能力。这种方法侧重于深入理解特定系统内的少数实体,而不是广泛概述许多实体。本体塔融合了物理关系和操作经验教训,显著提高了智能体避免似是而非的误判并达到目标操作范围的能力。
-
自托管SearXNG和网关可降低LLM代理网页搜索成本
一位开发者分享了一种方法,可以在不产生高额费用或达到速率限制的情况下,为LLM代理集成网页搜索功能。该方法涉及自托管类似SearXNG的元搜索引擎,并实现一个搜索网关。该网关负责缓存、速率限制、使用trafilatura等库获取内容,并在将结果返回给LLM代理之前执行引用检查。
-
LLM代理越来越多地出现在Mastodon评论中
Mastodon上的用户越来越多地遇到似乎来自LLM代理的帖子,通常附带专注于特定主题的描述。当用户打开帖子阅读评论时,发现只有机器人生成的内容,这种趋势变得越来越明显。
-
论文质疑LLM智能体排行榜的有效性
一篇新论文质疑LLM智能体排行榜的有效性,认为对排名智能体的直接比较可能具有误导性。作者们强调,任务组合、数据来源、发布细节和成本规则的差异会显著影响智能体的得分。他们提出了一种可估算感知程序,以更准确地评估成对优势,并强调在解释排名差异时需要考虑不确定性和实际边际,尤其是在SWE-bench和AgentRewardBench等基准测试上。
-
Best of AI 推出‘技能’目录,用于 LLM 代理工具
Best of AI 推出了一个名为 Skills 的新版块,旨在帮助用户查找和整理 LLM 代理的专业指令和脚本。这个精选目录通过提供一个集中的平台来浏览和比较,解决了代理技能分散的问题。首批发布包含 9 个类别中的 50 项技能,涵盖文档自动化、开发、代码审查和设计等,其中 Anthropic 在文档处理方面做出了显著贡献。