Agentic Systems
PulseAugur coverage of Agentic Systems — every cluster mentioning Agentic Systems across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新电子书解读企业Agentic Systems
一本题为“Agentic Systems 内部”的电子书已发布，为企业和该领域的新手提供了对agentic systems的客观概述。该指南旨在解释这些系统的内部运作。可在作者的博客上购买。
-
基础模型和LLM推动纳米光子学设计和发现
研究人员开发了MOCLIP，一个用于纳米光子学逆向设计的基礎模型，利用对比学习整合了几何和光谱表示。该模型实现了高通量零样本预测，能够快速设计超表面，并展示了在光学信息存储方面的潜力。一篇相关的评述探讨了大语言模型（LLMs）在纳米光子学中的应用，超越了传统神经网络，转向基于LLM的方法，这些方法能够生成代码并协调模拟工作流程以实现自主科学发现。
-
新基准揭示AI代理易受有害行为攻击
研究人员开发了一个名为BAD-ACTS的新基准，用于评估AI代理系统在对抗性攻击下诱导有害行为的鲁棒性。该基准包含五个不同的代理系统实现和一个近700个对抗性样本的数据集。测试显示，当前代理系统非常脆弱，恶意行为的成功率根据底层模型不同，范围在40%到90%之间。该研究还提出了一种基于零样本消息监控的防御机制来缓解这些风险。
-
人工智能在数据丢失防护中的作用：从检测走向判断
传统的数据丢失防护（DLP）工具通过模式匹配专注于检测，但这种方法存在局限性。一项最新研究发现，来自正则表达式和以个人身份信息（PII）为重点的模型，其80%以上的发现都是误报，这凸显了人工判断的必要性。作者 Harsh Singhal 提出，能够理解上下文和组织特定信息的代理式人工智能系统，更适合弥合数据安全中检测与决策之间的差距。
-
多代理AI工具箱被证明比单代理设置更差且成本更高
一位独立开发者构建了一个工具来评估多代理AI系统，发现一个涉及规划者、多个起草者和裁判的复杂设置比简单的单代理方法表现更差且成本更高。这项在二十个编码任务上使用真实模型进行的评估表明，更复杂的工具箱配置导致输出质量下降，成本增加22倍，而成功率没有可衡量的提高。开发者强调，小型评估套件可能产生误导性结果，并且更多的任务对于准确的比较至关重要。
-
研究发现：公共行政领域的人工智能系统需要更高的技术精确度
一篇新论文提出了一个用于公共行政领域人工智能系统的技术类型学，以提高研究的精确度。该论文引入了五个类别：手工编码系统、透明盒系统、黑箱系统、通用系统和自主系统，并分析了它们对公共价值的影响。对91篇被高度引用的论文的评估显示，在描述和研究人工智能系统方面存在显著的不精确性。
-
Anaplan推出AI决策基础设施；阿联酋加强AI安全
Anaplan 推出了其“Agentic Enterprise”平台，旨在通过人工智能驱动的基础设施增强组织内的决策能力。该新系统旨在提高大规模资源分配的效率、质量和速度。与此同时，阿联酋正在加速其人工智能发展，特别关注安全措施，以应对自主代理人工智能系统带来的不断变化的风险。
-
智能体框架优化电动公交车队运营及V2G集成
一项新的研究论文提出了一个智能体聚合器框架，用于优化电动公交车队运营，并考虑电池状态、充电器可用性、电价以及车辆到电网（V2G）机会等因素。该框架将一个优化模型与用于干扰检测和关税适应的主管智能体相结合。一个案例研究表明，这种智能体方法可以改善协调和灵活性利用，但也凸显了一个潜在的权衡：如果系统以盈利为目的进行配置，可能会从公共交通运营商那里获取价值。研究结果表明，在部署此类系统时，需要透明的协调和价值共享规则。
-
知识图谱超越顺序处理，增强代理AI系统
本文探讨了代理AI系统中顺序处理的局限性，并主张整合知识图谱。文章认为，知识图谱可以提供纯粹的顺序模型所缺乏的关键上下文和关系理解，从而增强AI代理的能力。
-
新的证据记录代理循环模式增强了 AI 代理的合规性
部署自主 AI 代理的企业需要一个强大的工具调用日志记录系统来确保合规性和可观察性。当前的临时日志记录方法会产生不一致的审计跟踪，使得难以重建代理行为以进行监管或事件审查。提议的证据记录代理循环 (EGAL) 模式通过建立一个一流的合规层来解决这个问题，在该层中，每一次工具调用（无论成功还是失败）都会生成一个结构化的、与身份绑定的、因果链式的证据记录。
-
代理系统通过签名审批保护工具调用
一种保护代理系统的新方法提出用加密签名的令牌替换简单的布尔审批标志。此方法将审批直接绑定到特定的工具调用，从而降低了提示注入、重放攻击和参数漂移的风险。通过对规范化参数、主体和到期时间使用 HMAC 签名，系统确保只授权特定的、预期的操作，防止未经授权的修改或重用审批。
-
新的基于偏好的方法改进了AI代理评估
研究人员推出了一种名为偏好轨迹评估的新方法来评估代理系统。该方法根据对进度和返回时间的时间偏好来比较轨迹，旨在克服传统基于成功率的指标的局限性，这些指标通常会导致大量平局。新方法显著减少了平局，提高了跨各种基准的评估的区分度和稳定性。
-
AI项目失败源于数据库限制，而非模型
企业AI项目频繁失败并非由于模型不准确，而是因为现有数据库无法满足代理式系统的需求。这些系统需要实时数据检索、操作启动和跨系统推理，而传统数据基础设施往往缺乏这些能力。pgEdge首席执行官David Mitchell强调了这一挑战，并指出需要能够支持这些复杂、动态AI操作的数据库。
-
新库和框架通过预测驱动的推理增强AI评估
研究人员推出GLIDE，一个开源Python库，旨在标准化和改进AI系统（特别是代理系统）的评估。GLIDE统一了各种预测驱动的推理（PPI）方法，提供去偏估计和有效的量化不确定性。一篇相关论文提出了一个多任务PPI框架，该框架利用相关任务来增强推理能力并保留特定任务的结果，尤其是在真实标签稀缺的情况下。这些进展旨在降低标注成本，同时保持AI评估和社会科学研究的精确度。
-
人工智能对话设计塑造代理协调与信任
文章认为，当前的人工智能用户体验常常忽视了对话设计的深层含义。它提出，在代理系统中塑造对话模式，本质上是在设计协调、升级、监督和信任。作者认为，当对话成为操作基础设施时，它就改变了人机交互的性质。
-
可解释人工智能研究旨在提高对盲人和低视力用户的可访问性
一篇新论文解决了为盲人和低视力（BLV）用户量身定制可解释人工智能（XAI）的关键需求，突显了当前人工智能系统在模态上的显著差距。研究表明，虽然BLV用户重视对话式解释，但他们常常将人工智能的失败归咎于自己。该论文提出了一个专注于多模态界面和面向代理人工智能系统的、考虑归因的解释设计的议程。
-
AI 探索从语法到避难所的“意图架构”
该集群讨论了 AI 的哲学和设计含义，特别关注“意图”和“结果”的概念。文章探讨了 AI 设计是应优先考虑预期目的还是已实现的结果，并深入探讨了在代理系统中定义目标与构建解决方案的挑战。它触及了 AI 的架构，从基本语法到更复杂的概念，如避难所建设和集体意图。