Vercel AI SDK
PulseAugur coverage of Vercel AI SDK — every cluster mentioning Vercel AI SDK across labs, papers, and developer communities, ranked by signal.
13 天有情绪数据
-
Agnost AI 在自定义 LLM 聊天机器人分析方面领先;平台工具和 PostHog 也接受了评测
对 AI 聊天机器人分析工具的比较突出了 Agnost AI 作为自定义 LLM 构建的机器人的首选,它提供详细的对话分析、故障检测和自动修复建议。对于集成到 Intercom Fin、Zendesk、Voiceflow 或 Botpress 等平台的聊天机器人,首先推荐使用它们的原生分析工具。然后可以集成 PostHog 和 Amplitude 等工具,将聊天机器人性能与更广泛的产品指标(如漏斗和留存率)联系起来,而 Langfus…
-
Vercel AI SDK的安全检查遗漏了关键工具更改
Vercel AI SDK的工具指纹识别机制中已发现一个安全漏洞,特别是影响了其对`readOnlyHint`注解的处理。虽然该SDK的漂移检查旨在检测工具描述和输入模式的更改,但它未能考虑到`readOnlyHint`属性的修改。这一疏忽意味着一个工具可能会被更改为具有破坏性而不会触发漂移检测,正如对14,009台服务器的分析所示。该问题最初由NerdLevelTech展示,现已被社区成员通过一项包含输出模式和注解的指纹修复方案解决。
-
LangSmith 替代方案提供开源、按使用量付费的 LLM 监控服务
LangSmith 的多个替代方案正在涌现,用于 LLM 代理评估和监控,其中 Langfuse 和 Braintrust 是突出的选项。Langfuse 为追踪、提示和评估提供了接近的开源替代方案,而 Braintrust 则专注于以实验为驱动的评估工作流程。其他工具如 Opik、Arize Phoenix、Laminar、Helicone 和 Agnost AI 提供了各种功能,如全对话评估器、自托管能力和生产日志分析,通常具有不…
-
Alibaba 的 Qwen4-Max 模型与 Vercel AI SDK 存在集成问题
阿里云模型工作室发布了 Qwen4-Max,这是 Qwen 系列的新旗舰模型,支持 100 万个 token 的上下文窗口和多模态输入。虽然它旨在兼容 OpenAI Chat Completions 协议,但在与 Vercel AI SDK 集成时,一项用于加密推理的特定功能无法正常工作。此问题出现的原因是 SDK 会丢弃加密推理字段,导致模型在对话轮次之间无法保留其先前的思考过程。一种解决方法是使用 SDK 的元数据提取器来保存并重…
-
SnapRender为AI代理提供即时屏幕截图API密钥,无需注册
SnapRender推出了一项新的API试用功能,允许AI代理在无需人工干预或创建账户的情况下获取屏幕截图API密钥。此试用密钥在七天内提供100次屏幕截图和页面读取次数,每日上限为30次捕获。该功能已集成到各种AI代理框架中,包括MCP客户端、Vercel AI SDK和LlamaIndex,从而简化了代理访问网页数据的过程。
-
XACTUM推出LiteLLM日志记录器以检测LLM价格和模型漂移
XACTUM开发了一个LiteLLM CustomLogger回调,用于检测LLM网关中的价格膨胀和模型差异。该工具充当警报器,通过XACTUM的API将配置的价格与独立参考进行比较,并验证计费模型是否与请求的模型匹配。该系统旨在防止意外成本增加,而不会增加LLM调用的依赖性,并采用按次付费模式和开源可用性。
-
新的AgentCheck工具在CI中捕获AI代理回归
一个名为AgentCheck的新开源库已被开发出来,以帮助开发人员捕获AI代理中的回归。该工具允许用户测试代理所做的工具调用序列,而不仅仅是其最终输出。通过记录和比较这些跟踪,开发人员可以识别可能被忽视的问题,例如无限循环、跳过的步骤或成本增加。AgentCheck与Vercel AI SDK等框架集成,并可用作CI步骤,以确保AI代理的行为保持一致和高效。
-
代码模式为 AI 代理提供比 JSON 工具调用更高效的替代方案
当处理复杂、大规模的企业基础设施时,AI 代理的标准 JSON 工具调用可能会变得效率低下且成本高昂。这是因为将广泛的工具模式加载到模型的上下文中需要很高的 token 使用量,并且多次工具调用具有缓慢、顺序的特性。一种称为代码模式的新方法,由 Cloudflare Agents 和 Vercel AI SDK 推广,通过允许代理直接执行沙盒代码来解决这些问题,从而显著降低延迟、token 消耗并提高可靠性。
-
Pomerene 推出缓存以降低 AI 代理重新推导成本
Pomerene 推出了确定性轨迹缓存系统,旨在减少代理式 AI 工作流中的“循环税”。该系统旨在防止代理为相同或相似的目标重新推导答案,这是 Vercel AI SDK 和 Mastra 等框架中常见的低效现象。通过封装代理函数,Pomerene 可以记录和重放代理执行步骤,显著加快响应速度并降低重复任务的计算成本。
-
在 Next.js 中针对 OpenAI 和 Anthropic 模型对 Prompt 缓存进行故障排除
本技术指南解释了如何在 Next.js 应用程序中使用 Vercel AI SDK 结合 OpenAI 和 Anthropic 模型时,对 Prompt 缓存问题进行故障排除。它通过检查每个提供商和 SDK 报告的特定 token 计数,详细说明了如何检查缓存是否正常运行。该帖子概述了缓存未命中的常见原因,例如 Prompt 格式不正确、缓存部分内的数据更改或超出缓存过期时间,并为开发人员提供了诊断这些问题的清单。
-
MongoDB 与 Vercel AI SDK 集成,实现 AI 持久化内存
MongoDB 发布了 Vercel AI SDK 的开源集成,使 AI 应用能够利用 MongoDB Atlas 作为持久化内存存储。此集成允许 AI 代理在会话之间保留对话历史、用户事实和过往事件,从而增强其保持上下文的能力。它会自动对五种类型的内存——会话、语义、过程、情景和临时内存——进行分类和存储,并提供可定制的保留策略,同时利用 MongoDB Vector Search 高效检索语义内存。
-
X402 为 LangChain 和 Vercel AI SDK 推出按调用付费的网页搜索工具
X402 推出了一个专为集成 LangChain 和 Vercel AI SDK 而设计的新网页搜索工具。该服务采用按调用付费模式,初始试用提供 25 次免费调用。对于生产环境使用,用户可以集成 x402 客户端来处理付款,付款以 USDC 进行,费率为每调用 0.004 美元。
-
SaaS开发者无需重写即可添加AI功能
开发者可以通过结构化方法将AI功能集成到现有SaaS产品中,而无需进行完全重写。关键策略包括抽象化模型提供商、根据模式验证输出、使用流式处理实现交互式功能以及使用后台作业处理其他功能,并实施功能标志以进行受控发布。在启动之前,确保多租户和数据隔离至关重要,尤其是在处理特定客户数据时。
-
MCP 框架将免费网页搜索集成到 AI Agent 中
开发者现在可以使用 MCP(Meta-Communication Protocol)框架将免费网页搜索功能集成到 AI Agent 中。这使得使用 Pydantic AI、Vercel AI SDK 和 Cursor 等工具构建的 Agent 能够访问实时信息,而无需 API 密钥或注册。AgentSearch 包提供每天最多 25 次搜索的免费套餐,并提供付费功能,如页面提取和渲染,以满足更高级的用例。
-
兼容OpenAI的网关统一访问GPT、Claude、Gemini和DeepSeek
一位开发者创建了一个名为Gisoo的兼容OpenAI的网关,该网关统一了对包括GPT、Claude、Gemini和DeepSeek在内的多个LLM提供商的访问。该网关允许开发者使用单一API端点和密钥与各种模型进行交互,从而简化集成并便于进行不同模型的A/B测试。该系统支持流式传输和回退链等功能,即先尝试更便宜的模型,然后再尝试更昂贵的模型,并且还兼容Anthropic的API以支持特定工具。
-
MemorySync 为 Vercel AI SDK 添加持久化用户内存
MemorySync 为 Vercel AI SDK 引入了一项新集成,支持 Claude 和 OpenAI 等 AI 模型在不同聊天会话中拥有持久化内存。该中间件层在生成前拦截模型调用以注入用户特定事实作为系统上下文,并在成功响应后从用户消息中提取新的持久化事实。此功能旨在为聊天机器人提供长期记忆,作为现有对话记录持久化的补充。
-
Zod .refine() 规则在通过 OpenAI/Vercel SDK 传递给 LLM 之前被丢弃
使用 Zod schema 和 OpenAI Node SDK 或 Vercel AI SDK 的开发者可能会遇到问题,即自定义验证规则(特别是使用 `.refine()` 定义的规则)未传递给语言模型。这是因为这些 SDK 使用的 `z.toJSONSchema()` 函数会将 Zod schema 转换为 JSON Schema 格式,但会省略 `.refine()` 检查,将其视为标准 JSON Schema 不支持的自定义规则…
-
新的 npm 包将 Kimi k3 模型集成到 Vercel AI SDK 中
一个名为 `wallaby-ai-provider` 的新 npm 包已被开发出来,用于将 Moonshot 的 Kimi k3 模型集成到 Vercel AI SDK 中。该 provider 允许开发者在通过 AI SDK 构建的应用程序中轻松使用 Kimi k3,Kimi k3 以其 100 万 token 的上下文窗口而闻名。该包处理 API 密钥管理,并提供对 Kimi k3 功能的直接访问,包括流式传输和结构化输出,以及透…
-
调查发现:AI代理框架缺乏内置支出控制
对12个流行AI代理框架的最新调查显示,没有一个框架提供内置的、基于货币的工具调用支出上限。虽然大多数框架允许设置步骤限制或在执行前进行人工审批,但它们缺乏跟踪或限制货币支出的能力。作者建议,必须通过支付API或一个在交易发生前管理预算和策略的专用控制层来在外部实施支出安全护栏。
-
AI支付服务器缺乏支出控制,存在代理过度消费风险 · 追踪到 2 个来源
对 49 个支付相关的多方计算 (MCP) 服务器进行的最新普查显示,虽然其中 37 个可以处理金融交易,但在其记录的支出控制方面存在显著差距。只有四个服务器明确记录了可配置的支出预算,而提供类似人工审批步骤或速度限制功能的服务器则更少。这种缺乏强大、服务器端支出控制的情况,对于构建 AI 代理的开发者来说是一个关键问题,因为基于提示的限制很容易被规避,因此需要在支付层面上进行这些控制。