Digital Applied
PulseAugur coverage of Digital Applied — every cluster mentioning Digital Applied across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
设备端AI代理凭借新的高效本地模型获得关注
设备端AI代理正变得越来越可行,Liquid AI的LFM2.5-24B-A2B和NVIDIA的Nemotron 3.5 Bolt E4B等新模型在本地硬件上提供了高效的性能。这些小型模型在隐私、离线功能和成本效益等领域表现出色,非常适合个人数据处理或需要持续可用性的应用程序等任务。虽然它们尚未能与大型云端模型的原始推理能力相媲美,但策略是利用本地模型处理即时、私密的任务,并将云端模型用于复杂的计算。
-
Inception 的 Mercury 3 扩散模型达到每秒 1068 个 token 的速度
Inception 发布了 Mercury 3,这是一款扩散语言模型,能够以每秒 1068 个 token 的速度生成内容,并拥有 100 万个 token 的上下文窗口。这种速度是通过一种扩散过程实现的,该过程在几次迭代中同时优化整个输出,这与传统的自回归模型不同。近乎瞬时的生成可以实现新的应用,例如生成多个候选响应以供选择、执行全面的预显示检查以及实现更复杂的代理工作流。
-
LLM评估集是应对快速模型发布的关键
大型语言模型(LLM)的快速发布,例如GPT 6.1 Terra和Kimi K3.1 Pro,需要超越简单基准的强大评估策略。开发者应创建包含特定输入及其正确输出的自定义评估集,以严格测试模型的性能和成本效益。这些评估集对于识别细微错误和就采用新模型做出明智决策至关重要,最终成为AI项目中最重要的资产。
-
100万token的上下文窗口已成标配,但检索仍很重要
大型语言模型的最新进展引入了高达100万token的上下文窗口,这让一些人质疑检索管道的持续必要性。虽然更大的上下文窗口对静态和小型数据集有益,但对于动态数据、成本效益和对延迟敏感的应用来说,检索仍然至关重要。此外,模型在极长的上下文中的准确性可能会下降,而检索系统对于管理用户权限和确保数据隐私至关重要。
-
AI成本危机迫近,代理执行税使云账单翻三倍
文章讨论了企业AI中新兴的“代理执行税”,其中自主代理比传统的静态查询消耗更多的计算资源。这种由多步循环和重试机制驱动的税收,导致AI项目预算翻三倍,并造成高比例的取消。为解决此问题,作者提出将传统的每token成本模型转变为“每次成功任务成本”(CPST)框架,该框架考虑了输入/输出成本、工具执行、重试和通过率,以实现经济上可持续的代理系统。
-
AI 代理程序通过受信任的 MCP 服务器容易受到恶意指令的攻击
最近的安全研究揭示了 AI 代理程序所依赖的基础设施存在重大漏洞,特别是消息通信协议 (MCP) 服务器。Digital Applied 的一项研究发现,包括 Context7 在内的流行 MCP 服务器,经常将与其预期功能无关的指令注入到 AI 代理程序的上下文窗口中,这些指令可用于重定向代理程序的行为。这与其他近期发现的问题相结合,例如 LiteLLM 中的命令注入漏洞、Sentry 的 MCP 服务器中的未经身份验证的 SSRF…
-
LLM路由通过将查询匹配到每美元质量的模型来节省成本
目前仅使用最先进或最便宜的大型语言模型(LLM)的策略已过时。2026年的证据表明,一种动态路由方法,根据模型每美元的质量比率将查询定向到模型,可以显著节省成本并保持高性能。研究表明,大多数查询不需要前沿模型,实施路由器可以将LLM成本降低30-85%,同时保留高比例的质量。