Large Language Model Agents
PulseAugur coverage of Large Language Model Agents — every cluster mentioning Large Language Model Agents across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
LLM agents enable interpretable inverse design of MOFs
研究人员开发了LLM4MOF，一个使用大型语言模型代理进行金属有机框架（MOF）逆向设计的框架。该系统能够自主进行化学推理，生成候选MOF，并通过模拟进行测试，在多次迭代中完善假设。LLM4MOF提出可解释的设计假设，并利用这些假设指导在各种任务中寻找高性能结构，显著减少了所需的属性评估次数。该框架还可以生成新颖的MOF并根据特定条件调整其几何形状，性能优于传统搜索方法。
-
研究发现：自主式AI对出行数据隐私构成可扩展威胁
arXiv上发表的一项新研究展示了自主式AI（特别是大型语言模型）如何能够自动化从出行微数据中重新识别个人的过程。该研究提出了一种流程，AI代理能够自主搜索公开网络来源，交叉引用数据，并在极少人工干预的情况下将位置轨迹与身份关联起来。在现实世界可行性研究中，该方法成功重新识别了72%的可识别个人，凸显了隐私风险的重大转变，并对现有的统计披露控制实践提出了挑战。
-
新基准评估AI地图代理的满意度感知决策能力
研究人员推出了MapSatisfyBench，这是一个新的基准测试，旨在评估地图代理在显式任务完成之外理解和满足用户隐式需求的能力。该基准测试从行为数据中重建完整的用户需求，识别隐式决策因素，并仅保留那些有预查询证据支持的因素。实验表明，当前代理在显式任务完成方面表现出色，但在隐式因素和主动收集支持性证据方面存在困难，这突显了将评估重点转移到满意度感知的空间决策制定上的必要性。
-
LLM代理指导进化式分子设计用于药物发现
研究人员开发了“My Chemical Harness”，一个将大型语言模型（LLM）与进化算法相结合的分子设计新框架。该系统使用LLM作为高级策略控制器，指导合成路径的搜索，而不是直接生成分子。该框架确保生成的路径可以使用确定性化学工具执行，并通过分子预言机进行评分，防止LLM引起的幻觉。该方法在一个可溶性环氧化物水解酶代理任务上取得了最先进的性能，证明了受约束的LLM代理在无需广泛训练的情况下进行分子发现的潜力。
-
香港中文大学团队推出SLIM，实现大语言模型智能体的动态技能管理
香港中文大学的研究人员开发了SLIM，一个用于管理大语言模型智能体所用技能生命周期的新框架。SLIM在训练过程中动态评估每个外部技能的贡献，保留有用的技能，淘汰影响减弱的技能，并扩展技能集以应对新的失败场景。这种方法旨在通过超越简单地累积或丢弃技能来优化智能体的性能，使其能够更有效地适应复杂任务。
-
MemAudit框架审计中毒的LLM代理内存
研究人员开发了MemAudit，一个旨在识别和审计大型语言模型代理内存中恶意数据的新框架。该事后审计系统解决了对抗性用户可以将有害记录注入代理内存，从而可能操纵其行为的安全漏洞。MemAudit利用因果归因和结构异常检测来精确定位导致不良输出的特定内存，在测试场景中显著降低了攻击成功率。
-
新框架通过执行对齐提高 LLM 代理性能
研究人员开发了一个名为“harnesses”的新框架，以提高大型语言模型代理在推理过程中的性能。该方法通过将工具函数分解为任务分解和引导执行来专注于对齐执行轨迹。研究揭示了工作流粒度和重试预算等因素如何影响成功率，并识别了过度分解和幻觉执行等失败模式。研究结果表明，仅指定初始步骤的部分工具可能优于完全结构化的工作流。
-
新基准测试大型语言模型代理从经验中形成技能的能力
一项名为 SkillEvolBench 的新基准被引入，用于评估大型语言模型 (LLM) 代理将情景经验提炼成可重用程序性技能的能力。该基准包含六个环境中的 180 个任务，旨在测试在各种条件下的技能形成和重用。目前的 LLM 代理在形成健壮、可重用的技能方面表现出局限性，通常在原始轨迹重用方面表现优于提炼后的技能，这表明当前的抽象方法可能会丢弃有用的上下文信息。
-
DeferMem框架通过强化学习增强LLM长期记忆问答能力
研究人员开发了DeferMem，一个旨在改进大型语言模型在处理长期对话记忆时的问答能力的新框架。该系统将过程分为初步的广泛候选检索和随后的条件查询证据蒸馏阶段。DeferMem利用一种名为DistillPO的强化学习算法，将检索到的信息提炼成简洁、相关的证据，在准确性和效率方面优于现有方法。