Google Cloud Vertex AI
PulseAugur coverage of Google Cloud Vertex AI — every cluster mentioning Google Cloud Vertex AI across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
选择适合您任务的 Claude 模型指南
本文提供了一个决策树，供实践者根据自身需求选择最合适的 Claude 模型，超越了简单的每 token 定价优化。文章建议关注每项完成任务的成本来确定特定应用的最佳模型。该指南比较了 Claude 3 Opus、Claude 3 Sonnet 和 Claude 3 Haiku，并参考了 GPT-4 以及 Amazon Bedrock 和 Google Cloud Vertex AI 等部署选项。
-
在 VS Code 中设置 Claude Code：扩展与 CLI 的区别详解
本指南详细介绍了在 Visual Studio Code 中设置 Claude Code 的过程，区分了聊天面板扩展和独立的命令行界面（CLI）。VS Code 扩展需要付费的 Anthropic 订阅或 Claude Console 账户以及最新版本的 VS Code，但不需要 API 密钥。而 CLI 则必须使用 npm、Homebrew 或原生安装程序等方法单独安装，并且需要针对不同操作系统满足特定的系统要求。文章强调，该扩展仅…
-
Promptfoo 框架为生产环境 QA 工程师简化 LLM 测试
Promptfoo 是一个开源框架，旨在解决在生产环境中测试大型语言模型 (LLM) 所面临的独特挑战。与传统的软件测试不同，由于 LLM 的概率性本质，LLM 测试需要重新定义“正确性”。Promptfoo 使工程师能够将提示及其配置视为可版本控制的代码，确保在模型更新和温度变化时的稳定性。该框架支持对格式错误输出或成本超支等常见问题的确定性断言，并允许通过 JavaScript 或 Python 进行自定义检查以应对更复杂的场景。
-
LiteLLM 通过代理网关将 LLM SDK 转化为基础设施
LiteLLM 最初只是一个用于统一 OpenAI 和 Anthropic 等 LLM 提供商的简单 Python SDK，但通过其代理网关，它展现了其作为基础设施层的真正价值。该网关公开了一个与 OpenAI 兼容的端点，通过 YAML 配置实现模型无关的抽象和可配置路由。通过将 LLM 视为基础设施组件，LiteLLM 促进了多提供商路由、集中控制和部署灵活性，将提供商特定的问题从应用程序代码中抽象出来。
-
PhysiFormer 使用坐标空间扩散进行物理上可行的3D物体运动模拟 · 跟踪3个来源
研究人员开发了PhysiFormer，一种能够模拟物理上可行的3D物体运动的新型扩散Transformer。与之前在像素空间操作的方法不同，PhysiFormer直接在世界坐标中处理3D网格，无需显式的归纳偏置。该模型在超过100,000个模拟轨迹上进行训练，在预测刚性和弹性力学方面表现出色，能够泛化到各种材料和物体数量，并在准确性和物理一致性方面优于自回归基线。
-
Gateway 简化了跨多个提供商的 LLM 基准测试
Nexus Labs 开发了一个名为 Bifrost 的网关，以简化多个大型语言模型 (LLM) 的基准测试。通过将请求路由到单一的 OpenAI 兼容端点，Bifrost 简化了集成过程，无需为 OpenAI、Anthropic、Bedrock、Vertex 和 Groq 等提供商使用多个 SDK 和自定义重试逻辑。这种方法减少了因基础设施差异引起的评估结果中的噪音，并提高了基准测试运行的可靠性，尽管其好处仅限于多提供商场景。
-
Photoroom使用Bifrost网关实现VLM故障转移和预算控制
Photoroom已实施开源网关Bifrost，用于管理其生成产品图像的视觉语言模型（VLM）调用。该系统充当守门员，确保在交付给客户之前图像的质量。Bifrost提供统一的多模态接口，可在OpenAI、Anthropic和Gemini等供应商之间自动故障转移，并支持按团队进行预算跟踪，从而解决了服务降级问题并改善了成本管理。
-
LiteLLM：LLM代理的优势和扩展性挑战
文章讨论了 LiteLLM，一个提供统一接口连接超过 100 家 LLM 提供商的工具，强调了它在快速原型设计和 Python ML 团队易用性方面的优势。然而，文章也指出了在管理 Redis 和 Postgres 数据库方面的扩展性挑战，高负载下 Python 运行时可能出现的延迟问题，以及实时预算执行方面的限制。作者认为，虽然 LiteLLM 非常适合初步开发和小规模部署，但需要健壮、可扩展的基础设施和更严格治理的团队可能需要考虑…
-
Nexus Labs 使用 Bifrost 虚拟密钥替换了 60% 的 LLM 中间件
Nexus Labs 通过使用 Bifrost 的虚拟密钥系统替换了其 11,247 行 Python 代码中的 60% 以上，显著减少了其定制的 LLM 中间件。这一改变简化了每个租户的成本归属、速率限制和提供商故障转移，将 p95 延迟从 47 毫秒降低到 8 毫秒，并将添加新模型的时间从两天缩短到不到一个小时。虽然 Bifrost 提供了实质性的改进，但 Nexus Labs 也指出了其局限性，包括成本归属迁移的挑战以及为某些代…
-
Anthropic 发布 Claude Opus 4.8，具备努力度控制和改进的编码能力
Anthropic 发布了 Claude Opus 4.8，该版本具有增强的努力度控制、动态工作流和在编码任务中提高的诚实度。这个新模型在 SWE-bench Pro 和 GraphWalks 等基准测试中取得了显著进步，同时还提供了一个更快、更便宜的模式。该版本旨在通过提供更强大的配置和对齐来解决 AI 编码代理中常见的失败模式，例如约束违反和过度自信。
-
衡量AI网关故障转移：30天生产数据
Anthropic发布了关于Claude的谄媚行为的更新，指出Opus 4.7与Opus 4.6相比，谄媚回应减少了50%，尤其是在关系指导对话中。该公司还详细介绍了其选举保障措施，强调Claude在提供政治信息方面的公正性和准确性，Opus 4.7和Sonnet 4.6在评估中得分很高。此外，Andrej Karpathy的2025年回顾强调了可验证奖励强化学习（RLVR）作为一项关键进展，使模型能够发展推理策略并导致