LLM agents
PulseAugur coverage of LLM agents — every cluster mentioning LLM agents across labs, papers, and developer communities, ranked by signal.
- instance of DagsHub 90%
- instance of ScienceCast 90%
- instance of Gotit.pub 90%
- instance of alphaXiv 90%
- developed ALFWorld 90%
- instance of Generative Ai Interactive Agents 90%
- developed alphaXiv 70%
- developed by alphaXiv 70%
- developed by Gotit.pub 70%
- developed Gotit.pub 70%
- instance of CatalyzeX 70%
- developed ScienceCast 70%
15 天有情绪数据
LLM agents exhibit significant safety vulnerabilities in real OS environments
Recent evaluations using the new LITMUS benchmark show that even advanced LLM agents, including Claude Sonnet 4.6, demonstrate considerable safety issues when operating in real OS environments. A high percentage of dangerous operations were observed, highlighting a critical need for improved safety guardrails before widespread deployment.
LLM agent development is prioritizing guardrails over raw model size
The emphasis on 'guardrails' for safety, reliability, and control in LLM agents suggests a shift in development focus. Instead of solely pursuing larger models, the community appears to be prioritizing mechanisms to manage AI behavior and ensure predictable outcomes, indicating a maturing approach to AI development.
R^2-Mem framework will improve LLM agent performance on RealICU benchmark
Given that the R^2-Mem framework enhances memory search for LLM agents by learning from past trajectories, it is plausible that this improvement will translate to better performance on benchmarks like RealICU, which requires complex reasoning over patient data. We should track R^2-Mem's impact on RealICU scores.
New benchmarks like LITMUS will drive rapid improvements in LLM agent OS-level safety
The introduction of the LITMUS benchmark, which tests LLM agent safety in real OS environments with dual verification and state rollback, reveals significant vulnerabilities in current frontier agents. This focused evaluation is likely to spur research and development specifically targeting these OS-level safety concerns, leading to demonstrable improvements in agent security and reliability within the next year.
LLM agents to show improved performance on RealICU benchmark within 6 months
The recent introduction of the RealICU benchmark highlights current LLM agent weaknesses in long-context medical reasoning. Given the rapid pace of LLM development and the emergence of memory augmentation frameworks like R^2-Mem, it's plausible that agents will demonstrate significantly improved performance on this benchmark within the next six months as these advancements are integrated and fine-tuned for medical applications.
-
新博客聚焦实际LLM代理部署挑战
一个名为Loop & Retry的新博客旨在弥合理论LLM代理演示与生产就绪系统之间的差距。该博客将专注于部署LLM代理的实际挑战，例如优雅失败、成本管理和工具滥用。内容将基于实际测量和代码，涵盖上下文工程、工具设计和代理架构等主题。
-
新系统 LEDGER 助力 LLM 代理工作流审计
研究人员开发了 LEDGER 系统，用于审计大型语言模型 (LLM) 代理的输出。LEDGER 从代理会话构建分层追踪图，将执行事件组织成证据和工作流节点。这些图使用语义边将声明与支持性操作、工件和验证步骤连接起来，从而能够详细审查工件溯源、修复过程和以证据为中心的审计的声明支持路径。
-
新的CTIFoundry语料库脚手架提升LLM代理的网络威胁情报能力
研究人员推出CTIFoundry，一个旨在增强LLM代理在网络威胁情报（CTI）方面能力的新语料库脚手架。该系统通过从CVE、CWE、CAPEC和ATT&CK等权威知识库创建本体图谱，并使用规范实体索引威胁报告来构建CTI数据。CTIFoundry通过专门的工具和技能为代理提供结构化信息访问，从而提高调查的准确性和效率。
-
新框架AutoMem可自动搜索LLM代理的内存架构
研究人员开发了AutoMem，一个旨在自动发现大型语言模型（LLM）代理最佳内存架构的新型框架。该文本梯度递归自改进系统导航编码器、存储、检索和管理模块的搜索空间，使内存设计适应特定任务。在GAIA和WebWalkerQA等基准测试上的实验表明，AutoMem能够持续识别出优于人类设计的基线内存架构，从而提高准确性并降低代币成本。
-
新方法生成符合复杂约束的合成表格数据
研究人员开发了一种新颖的工作流程，用于生成符合特定列间约束的合成表格数据。该方法侧重于发现和强制执行三种类型的约束：方程、线性不等式和逻辑依赖关系。该系统将这些约束表示为机器可执行的假设，从而能够进行全表验证、违规诊断以及对生成数据的引导式修订。这种方法旨在提高合成数据的统计保真度和下游效用，同时确保符合特定领域的规则。
-
新框架研究 LLM 智能体中的后门净化
研究人员开发了一个框架，用于研究 LLM 智能体如何从微调过程中安装的隐藏后门中净化。他们的实验表明，引入一个已知的后门然后进行遗忘可以清除大约 56% 的原始后门，随后的净化步骤可以清除大部分剩余的后门。研究还发现，如果净化过程使用的触发器类型与原始后门不同，恶意后门就越不可能持续存在，并且净化几个共存的后门中的一个可以有效地清除大多数其他后门。
-
新框架测试LLM代理工具使用的鲁棒性以应对故障
研究人员开发了BENCH2ROBUST，一个旨在评估和改进使用工具的大型语言模型（LLM）代理鲁棒性的新框架。该框架将现有基准转换为模拟真实世界工具故障的随机环境，要求代理在面对错误时学习重试、切换工具或放弃的策略。使用BENCH2ROBUST进行的实验表明，将贝叶斯工具内存（BTM）与强化学习相结合，可以显著提高代理在工具故障条件下的性能，无需重新训练即可将鲁棒性提高多达16.8个百分点，并在模拟零售任务中达到40.8%-45.5%的成功率。
-
LLM代理学会将推理编译成工具，大幅降低延迟并发现bug
一位开发者实现了亚马逊的“工具制造和自进化LLM代理”论文，创建了能够将推理编译成永久性工具的代理。当应用于加密货币市场监控时，与基线LLM代理相比，这些工具实现了高精度和显著降低的延迟。值得注意的是，基线代理识别出了开发者手动创建的真实数据中的一个错误，凸显了LLM代理提高数据质量的潜力。
-
新的基准 ComboShoppingBench 评估 LLM 代理执行复杂购物任务的能力
研究人员推出了 ComboShoppingBench，这是一个旨在评估大型语言模型 (LLM) 代理在复杂、预算受限的购物场景中的能力的新基准。该基准模拟了真实的组合购物任务，要求代理考虑商品兼容性、可用性、商店政策、配送费用、优惠券和预算限制。实验表明，即使是先进的 LLM 代理在处理这些任务时也面临困难，这表明在具有约束意识的购物能力方面仍有很大的改进空间。
-
AI代理利用智能手机数据进行主动癌症生存者支持
研究人员开发了PULSE，一个旨在通过使用LLM代理分析被动智能手机传感数据来主动支持癌症生存者的新系统。该系统旨在解决“日记悖论”，即在最需要支持时无法获得自我报告。通过将当前行为与个人基线进行比较并检索历史案例，PULSE代理可以识别情绪困扰的时刻并提供干预。评估显示，具身多模态方法在情绪调节意愿方面达到了0.743的平衡准确率，为生存者护理中的心理健康支持指明了一个有前景的新方向。
-
大型语言模型代理和知识图谱协同作用，用于城市社会经济预测
研究人员开发了一个新颖的框架，该框架结合了大型语言模型（LLM）代理和知识图谱，以增强城市社会经济预测。这种方法在一个新的arXiv论文中进行了详细介绍，它构建了一个城市知识图谱（UrbanKG），并对嵌入式语言模型进行微调以捕获语义信息。然后，LLM代理利用这个知识图谱来识别相关的元路径以进行预测任务，并通过一个语义引导的注意力模块整合知识。该框架还包含一个跨任务通信机制，允许LLM代理和知识图谱在不同的社会经济预测任务之间共享知识…
-
新的防御系统AgentAntibody利用自适应免疫力对抗LLM提示注入
研究人员开发了AgentAntibody，这是一种受自适应免疫启发的创新防御系统，用于保护大型语言模型（LLM）代理免受提示注入攻击。该系统创建了一个持久的“抗体”库，代表代理对用户安全边界的理解。通过从过去的交互中学习，AgentAntibody可以识别和中和威胁，随着时间的推移提高其免疫力。实验表明，AgentAntibody在防止有害行为的同时仍允许合法任务完成方面，比现有防御措施更有效。
-
大型语言模型（LLM）代理面临日益增长的数据获取和自主性带来的隐私风险
近期研究强调了与大型语言模型（LLM）代理相关的重大隐私风险，特别是关于它们如何获取和处理用户数据。研究表明，虽然个性化是代理有效性的关键，但它常常导致隐私担忧加剧和用户信任度下降。新的基准和实验设计正在出现以解决这些问题，重点关注代理自主性、概率性隐私风险估计以及在代理最终输出之外审计数据获取阶段。这些努力旨在确保LLM代理能在不泄露用户敏感信息的情况下造福用户。
-
新基准评估人生事件后LLM代理的个性演变
研究人员开发了一个新基准BFI-Adapt，用于评估大型语言模型（LLM）代理在经历模拟人生事件后个性的演变情况。研究发现，虽然这些代理表现出可衡量的个性变化，但这些变化的幅度和形态通常与人类心理模式不同。目前的PC-Agents倾向于模拟平均人类的个性动态，而不是人类变化的全部光谱。
-
新研究探索 LLM 代理的无 token 记忆和低成本设备端 SLM
一篇新研究论文介绍了 Zero-Mem，一种 LLM 代理技术，无需额外 token 即可进行记忆操作。该方法旨在通过减少计算开销来提高 LLM 代理的效率。另外，一个小型语言模型 (SLM) 已在 8 美元的 ESP32-S3 微控制器上开发和训练，展示了以最低硬件成本进行设备端 AI 处理的潜力。
-
研究论文认为经典的检索指标对大型语言模型代理无效
一篇研究论文认为，用于信息检索的传统指标不足以评估大型语言模型（LLM）代理的性能。作者认为，这些既定的指标未能捕捉到 LLM 代理在交互和处理信息时固有的细微差别和复杂性。因此，该论文呼吁重新评估并开发专门针对 LLM 代理系统独特需求的新指标。
-
ToolLIFT框架通过函数级图增强LLM代理的工具规划能力
研究人员开发了ToolLIFT，一个旨在提高大型语言模型（LLM）代理工具规划可泛化性的新框架。ToolLIFT通过将工具使用轨迹提升到函数级工作流图（FWG）来解决现有方法创建工具特定图的局限性。该FWG捕获了不同工具之间的共享工作流结构，从而实现更具可迁移性的规划。该框架包含一个轨迹提升机制、解耦的工作流规划和工具选择，以及具有专门奖励的强化学习（RL），以确保可追溯的信息流。实验表明，ToolLIFT的性能优于当前基线，尤其是在…
-
新研究探讨LLM智能体的KV缓存压缩
一篇新近发表在arXiv上的研究探讨了大型语言模型（LLM）智能体在线KV缓存压缩的实用方法。该研究通过调整token驱逐和注意力匹配技术以适应在线压缩，专注于减少由长智能体轨迹引起的推理瓶颈。实验表明，延迟压缩和利用未来智能体查询可以弥补性能差距，并且在代理条件不完美的情况下，token驱逐被证明更具鲁棒性。
-
新框架衡量协作讨论中的认知参与度
一项新研究引入了一个扩展的ICAP框架，用于衡量协作讨论中的认知参与度，并将人类标注与基于LLM的标注进行比较。研究发现，虽然人类标注者实现了稳健的评分者间一致性，但像上下文学习这样的LLM方法仅显示出中等程度的一致性。该研究表明，基于代理的方法在分析协作对话方面具有潜力，并强调了人类标注与LLM开发之间持续互动的重要性。
-
新的 LLM 代理框架模拟端到端的零售动态
研究人员开发了 RetailSim，一个新颖的端到端模拟框架，旨在模拟复杂的零售动态。该系统旨在通过模拟从卖家说服到买家互动和购买决策的整个过程来评估零售策略。RetailSim 已通过现实世界的经济模式和人类行为保真度进行了验证，证明了其重现人口购买行为、价格需求关系和异质价格弹性的能力。该框架旨在作为探索各种零售策略的受控测试平台，包括用户画像推断、互动分析和销售策略评估。