Google Cloud Vertex AI
PulseAugur coverage of Google Cloud Vertex AI — every cluster mentioning Google Cloud Vertex AI across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Anthropic 发布商业 AI 代理的开源蓝图
Anthropic 发布了一个名为 Claude Commerce Agents 的商业代理构建蓝图，采用 Apache 2.0 许可。该开源框架提供了现成的购物和商家代理代码，旨在简化零售、旅游、电信和娱乐领域的运营。这些代理可以使用各种 Anthropic 客户端进行部署，包括 Claude API、Amazon Bedrock、Microsoft Foundry 和 Google Cloud Vertex AI，为企业提供了灵活性。
-
Anthropic 发布人工智能驱动的商业代理蓝图
Anthropic 发布了构建由其 Claude AI 模型驱动的商业代理的蓝图。这些代理旨在通过支持自然语言搜索、产品比较和简化的购买流程来增强客户购物体验。该蓝图包括购物代理和商家代理的参考实现，旨在与现有电子商务平台集成，并在对话中提供个性化推荐和客户服务等功能。
-
Claude Code：非 Anthropic 后端必备的环境变量
本文为希望在非 Anthropic 后端（例如 OpenAI 兼容网关或 Google Cloud Vertex AI 等云服务）上使用 Anthropic 的 Claude Code 的开发者提供了技术指南。文章详细介绍了 ANTHROPIC_BASE_URL 和 ANTHROPIC_AUTH_TOKEN 等关键环境变量，并强调了身份验证标头的正确格式，以避免 401 错误。该指南还强调了配置默认模型别名（特别是 ANTHROPIC…
-
Google ADK配置错误导致LLM工具滥用
一位开发者在使用Google的Agent Development Kit (ADK) 和 Google Cloud Vertex AI 时遇到了一个重大问题。问题源于模型请求的配置结构不正确，具体来说是将工具定义放在了`generationConfig`内，而不是顶层请求参数中。这导致模型无法访问其工具，并自信地从现有知识中进行响应，没有任何错误消息或异常。开发者详细说明了修复方法，包括将六个顶层字段与属于`generationCon…
-
开源Tollgate AI网关限制LLM支出
Tollgate是一个新推出的开源AI网关和支出控制代理，旨在管理LLM使用成本。它的工作原理是根据token为每个LLM请求定价，在发送请求前预留必要预算，并在请求到达AI提供商之前以402错误阻止超预算请求。Tollgate使用Rust开发，并在MIT许可下发布，可以部署在Google Cloud Run上。
-
LLM Token定价：原生API、开源模型托管、路由聚合器和云平台
2026年，购买LLM Token已细分为四大类，各有不同的定价和功能。来自OpenAI和Anthropic等模型创建者的原生API提供对新模型和独家功能的首日访问权限，但管理多个密钥和账单可能很复杂。Together等开源模型推理托管服务通过利用公开的模型权重，提供显著更便宜的Token，像GPT OSS 20B这类模型的价格低至0.05美元/百万Token。API路由聚合器将对多个供应商的访问整合到一个密钥下，通常收取标价加上少量…
-
选择适合您任务的 Claude 模型指南
本文提供了一个决策树，供实践者根据自身需求选择最合适的 Claude 模型，超越了简单的每 token 定价优化。文章建议关注每项完成任务的成本来确定特定应用的最佳模型。该指南比较了 Claude 3 Opus、Claude 3 Sonnet 和 Claude 3 Haiku，并参考了 GPT-4 以及 Amazon Bedrock 和 Google Cloud Vertex AI 等部署选项。
-
在 VS Code 中设置 Claude Code：扩展与 CLI 的区别详解
本指南详细介绍了在 Visual Studio Code 中设置 Claude Code 的过程，区分了聊天面板扩展和独立的命令行界面（CLI）。VS Code 扩展需要付费的 Anthropic 订阅或 Claude Console 账户以及最新版本的 VS Code，但不需要 API 密钥。而 CLI 则必须使用 npm、Homebrew 或原生安装程序等方法单独安装，并且需要针对不同操作系统满足特定的系统要求。文章强调，该扩展仅…
-
Promptfoo 框架为生产环境 QA 工程师简化 LLM 测试
Promptfoo 是一个开源框架，旨在解决在生产环境中测试大型语言模型 (LLM) 所面临的独特挑战。与传统的软件测试不同，由于 LLM 的概率性本质，LLM 测试需要重新定义“正确性”。Promptfoo 使工程师能够将提示及其配置视为可版本控制的代码，确保在模型更新和温度变化时的稳定性。该框架支持对格式错误输出或成本超支等常见问题的确定性断言，并允许通过 JavaScript 或 Python 进行自定义检查以应对更复杂的场景。
-
LiteLLM 通过代理网关将 LLM SDK 转化为基础设施
LiteLLM 最初只是一个用于统一 OpenAI 和 Anthropic 等 LLM 提供商的简单 Python SDK，但通过其代理网关，它展现了其作为基础设施层的真正价值。该网关公开了一个与 OpenAI 兼容的端点，通过 YAML 配置实现模型无关的抽象和可配置路由。通过将 LLM 视为基础设施组件，LiteLLM 促进了多提供商路由、集中控制和部署灵活性，将提供商特定的问题从应用程序代码中抽象出来。
-
PhysiFormer 使用坐标空间扩散进行物理上可行的3D物体运动模拟 · 跟踪3个来源
研究人员开发了PhysiFormer，一种能够模拟物理上可行的3D物体运动的新型扩散Transformer。与之前在像素空间操作的方法不同，PhysiFormer直接在世界坐标中处理3D网格，无需显式的归纳偏置。该模型在超过100,000个模拟轨迹上进行训练，在预测刚性和弹性力学方面表现出色，能够泛化到各种材料和物体数量，并在准确性和物理一致性方面优于自回归基线。
-
Gateway 简化了跨多个提供商的 LLM 基准测试
Nexus Labs 开发了一个名为 Bifrost 的网关，以简化多个大型语言模型 (LLM) 的基准测试。通过将请求路由到单一的 OpenAI 兼容端点，Bifrost 简化了集成过程，无需为 OpenAI、Anthropic、Bedrock、Vertex 和 Groq 等提供商使用多个 SDK 和自定义重试逻辑。这种方法减少了因基础设施差异引起的评估结果中的噪音，并提高了基准测试运行的可靠性，尽管其好处仅限于多提供商场景。
-
Photoroom使用Bifrost网关实现VLM故障转移和预算控制
Photoroom已实施开源网关Bifrost，用于管理其生成产品图像的视觉语言模型（VLM）调用。该系统充当守门员，确保在交付给客户之前图像的质量。Bifrost提供统一的多模态接口，可在OpenAI、Anthropic和Gemini等供应商之间自动故障转移，并支持按团队进行预算跟踪，从而解决了服务降级问题并改善了成本管理。
-
LiteLLM：LLM代理的优势和扩展性挑战
文章讨论了 LiteLLM，一个提供统一接口连接超过 100 家 LLM 提供商的工具，强调了它在快速原型设计和 Python ML 团队易用性方面的优势。然而，文章也指出了在管理 Redis 和 Postgres 数据库方面的扩展性挑战，高负载下 Python 运行时可能出现的延迟问题，以及实时预算执行方面的限制。作者认为，虽然 LiteLLM 非常适合初步开发和小规模部署，但需要健壮、可扩展的基础设施和更严格治理的团队可能需要考虑…
-
Nexus Labs 使用 Bifrost 虚拟密钥替换了 60% 的 LLM 中间件
Nexus Labs 通过使用 Bifrost 的虚拟密钥系统替换了其 11,247 行 Python 代码中的 60% 以上，显著减少了其定制的 LLM 中间件。这一改变简化了每个租户的成本归属、速率限制和提供商故障转移，将 p95 延迟从 47 毫秒降低到 8 毫秒，并将添加新模型的时间从两天缩短到不到一个小时。虽然 Bifrost 提供了实质性的改进，但 Nexus Labs 也指出了其局限性，包括成本归属迁移的挑战以及为某些代…
-
Anthropic 发布 Claude Opus 4.8，具备努力度控制和改进的编码能力
Anthropic 发布了 Claude Opus 4.8，该版本具有增强的努力度控制、动态工作流和在编码任务中提高的诚实度。这个新模型在 SWE-bench Pro 和 GraphWalks 等基准测试中取得了显著进步，同时还提供了一个更快、更便宜的模式。该版本旨在通过提供更强大的配置和对齐来解决 AI 编码代理中常见的失败模式，例如约束违反和过度自信。
-
衡量AI网关故障转移：30天生产数据
Anthropic发布了关于Claude的谄媚行为的更新，指出Opus 4.7与Opus 4.6相比，谄媚回应减少了50%，尤其是在关系指导对话中。该公司还详细介绍了其选举保障措施，强调Claude在提供政治信息方面的公正性和准确性，Opus 4.7和Sonnet 4.6在评估中得分很高。此外，Andrej Karpathy的2025年回顾强调了可验证奖励强化学习（RLVR）作为一项关键进展，使模型能够发展推理策略并导致