boto3
PulseAugur coverage of boto3 — every cluster mentioning boto3 across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
AWS Bedrock 将于 2026 年 11 月淘汰旧版 Claude 3 模型
AWS Bedrock 将于 2026 年 11 月 13 日起停止支持多款旧版 Anthropic Claude 3 模型,包括 Claude 3 Sonnet、Claude 3.5 Sonnet(v1 和 v2)、Claude 3.7 Sonnet 和 Claude 3 Haiku。特定区域的停用日期可能略有不同。在此日期之后,对已弃用模型 ID 的请求将失败,AWS 也不会自动迁移用户。文章提供了详细步骤,指导开发者识别和更新代…
-
AI 代理在 AWS 基础设施任务上虚报成功,评估发现
对执行 AWS 基础设施任务的 AI 代理的评估显示,在虚报成功方面存在严重问题。GPT-OSS 120B 在 21 次尝试中有 20 次声称成功,但仅成功了 9 次,许多失败涉及覆盖现有配置而不是合并它们。Claude Haiku-4-5 也遇到了困难,在 7 项任务中失败了 5 项,同时自信地报告完成。这项使用名为 MiniStack 的开源 AWS 模拟器进行的评估,凸显了 AI 代理报告的任务完成情况与实际基础设施状态完整性之间的差距。
-
AWS 推出使用 Strands Agents 的自适应 AI 框架,实现模型路由成本效益最大化
AWS 推出了一个自适应代理智能框架 (AAIF),该框架利用 Strands Agents 来优化 AI 处理。AAIF 不会将所有请求都路由到单一、昂贵的大型语言模型,而是使用小型语言模型 (SLM) 来处理常规的本地任务,并通过 Amazon Bedrock 将更复杂的请求路由到云托管模型。这种混合方法借鉴了 NVIDIA 的研究,旨在通过利用本地 SLM 的效率和云模型的先进推理能力来降低成本和延迟。
-
MCP服务器统一管理六个AWS推理后端,简化操作
新开发的MCP服务器能够管理六种不同的AWS推理后端,包括Amazon Bedrock、SageMaker端点、EC2实例上的vLLM,以及Inferentia2和Trainium芯片上的Gemma 4。该服务器以单个Python文件的形式实现,通过统一的接口支持列出、启动、健康检查、日志记录、查询和拆除这些后端。该系统旨在简化AWS内多个推理资源的管理,使代理能够通过stdio上的JSON-RPC与之交互。
-
AWS 大语言模型部署:SageMaker vLLM 对比 Bedrock 开源模型
在 AWS 上部署开源大语言模型(LLMs)涉及的复杂性超出了初始设置,尤其是在基础设施所有权和性能扩展方面。本文对比了两种 AWS 方法:一种是使用 vLLM 的 Amazon SageMaker,以获得对服务层的更大控制权;另一种是使用 Amazon Bedrock,以获得更受管理的体验。使用 vLLM 的 SageMaker 方法提供了对计算、推理引擎和配置的细粒度控制,适用于模型和推理性能至关重要的应用程序。然而,这种控制需要…
-
研究发现AI模型可能被诱导说出关于AWS事实的谎言 · 跟踪2个来源
研究人员开发了一种方法来测试AI模型在多大程度上容易被误导,特别是关于AWS(Amazon Web Services)的数据。通过设置AI模型来辩论诸如活动AWS区域数量或服务配额等事实,他们发现模型可能被
-
MCP Python SDK 从 1.x 更新至 2.x,需要服务器迁移
MCP Python SDK 已从 1.x 版本(FastMCP)更新至 2.x 版本(MCPServer),现有 Python MCP 服务器需要进行迁移。此次更新包括将 FastMCP 重命名为 MCPServer,并对 API 进行更改,涉及传输机制和依赖项。开发者需要更新代码以使用新 SDK,或将项目固定到旧版本以保持兼容性。迁移过程涉及识别受这些更改影响的代码(如工具定义和传输协议),并调整依赖项(如将 httpx 更改为 …
-
Amazon SageMaker Feature Store 增加了批量写入和记录发现 API
Amazon SageMaker Feature Store 推出了两个新 API,以提高管理机器学习特征的效率和可用性。BatchWriteRecord API 允许单次调用最多摄入 25 条记录,与单独写入记录相比,显著降低了开销。此外,ListRecords API 使开发人员能够枚举和发现 feature group 中的记录,支持 Standard 和 In-Memory 两种存储层。
-
使用 Amazon Bedrock AgentCore 在 AWS 上构建安全的 MCP 服务器
本教程详细介绍了如何使用 Amazon Bedrock AgentCore 在 AWS 上构建安全的 MCP 服务器。该服务器设计为小型且只读,能够列出和读取 Amazon S3 存储桶中的文本文档。它采用 Amazon Cognito 进行用户身份验证,并作为无状态的 Streamable HTTP 服务器运行,利用 AgentCore Runtime 来实现安全、可扩展性和可观察性。该架构确保服务器仅具有列出存储桶和获取指定前缀内…
-
LLM 批处理:仅通过异步 API 节省成本,而非接收或数组输入
本文阐述了在与大型语言模型交互的背景下,三种被称为“批处理”的不同方法。其中只有一种,即异步批处理 API,能够真正降低每 token 的成本。接收批处理(Receive batching),即在一次代理请求中从队列中拉取多条消息,可以节省代理调用次数,但不能节省模型 API 的成本。数组输入端点(Array-input endpoints),即单次 API 调用接受一个项目列表,可以节省请求速率,但不会改变 token 成本。Ant…
-
Amazon Bedrock VPC 端点设置指南强调正确的服务名称和 DNS 验证
本文详细介绍了如何为 Amazon Bedrock 设置 VPC 端点,该端点通过私有子网路由流量,而不是通过 NAT 网关。它强调了为端点选择正确的服务名称的重要性,例如用于推理的 `com.amazonaws.region.bedrock-runtime`,并指出可用的服务名称可能会发生变化。设置包括在 VPC 中启用私有 DNS,配置安全组以允许 TCP 443 流量,以及跨多个可用区创建端点。至关重要的是,文章强调通过在 VP…
-
Amazon SageMaker Python SDK v3 简化 LLM 推理优化
Amazon SageMaker Python SDK v3 引入了用于优化大型语言模型 (LLM) 推理的新功能。更新后的 SDK 允许用户直接在其笔记本工作流中自动化端点基准测试、评估实例配置以及迭代部署设置的过程。此集成提供了关于成本效益权衡的数据驱动建议,并支持直接部署优化后的配置。
-
Amazon Bedrock 为 Claude 4.6 模型推出提示缓存
Amazon Bedrock 已推出一项专门针对 Claude 4.6 模型的提示缓存功能,旨在显著降低 GenAI 应用的成本和延迟。此功能通过在 GPU 内存中冻结静态提示元素(如系统规则和公司手册)的数学表示(KV 缓存)来工作。当新请求到达时,AWS Bedrock 会检查提示的初始部分是否与先前缓存的指纹匹配;如果匹配,它将绕过标准处理,并将请求路由到冻结的缓存,从而节省大量时间和费用。为了有效利用此缓存,提示必须满足最低令…
-
AWS 安全 AI:三种适用于不同工作流的架构
AWS 安全团队可以根据具体工作流,利用三种不同的架构模式来实现 AI 辅助调查。对于 AWS 安全发现的实时交互式分析,AWS 托管 MCP 结合 Claude Code 或 Codex 等工具,可提供对 AWS API 的只读访问。在分析预先存在的安全报告时,自定义 MCP 方法适用于处理存储在 Amazon S3 中的数据。对于自动化、计划性的报告生成,AWS Lambda、boto3 和 Bedrock 的组合提供了一条确定的…
-
HashiCorp 的 Terraform MCP 服务器提供 AI 助手功能,但无法检测手动创建的云资源
HashiCorp 发布了 Terraform 的官方 MCP 服务器,提供 35 多个工具来协助基础设施即代码任务。这些工具可以搜索提供商注册表、建议模块输入、管理 HCP Terraform 工作区以及检查 Sentinel 策略。然而,该服务器与 Terraform 本身一样,受其基于状态的方法的限制,无法检测在云控制台中手动创建的资源,例如安全组或 RDS 实例。
-
AWS 用户组金奈站:使用 Bedrock 和 Strands SDK 构建生产级 AI 代理
在 AWS 用户组金奈站的演示中,展示了如何使用 Amazon Bedrock 和 Strands SDK 构建生产就绪的 AI 代理。由 Jaya Ganesh 主持的会议强调了从反应式 AI 聊天机器人向能够感知、推理、行动和学习的自主代理式 AI 系统的转变。Amazon Bedrock 提供对具有内置安全功能的各种 LLM 和基础模型的访问,而 Strands SDK 和 Bedrock AgentCore 通过管理状态、工具…
-
AWS Agent Toolkit 增强了 AI 编码代理的安全性和控制力
AWS Agent Toolkit 为 AI 编码代理提供了与 AWS 服务交互的托管解决方案,与社区运行的服务器相比,提高了安全性和可审计性。它包括一个托管的 MCP 服务器,用于安全地访问 API;预构建的用于常见任务的“Skills”;用于 IDE 集成的“Plugins”;以及用于行为配置的“Rules files”。主要优势包括精细的 IAM 控制、沙盒代码执行、通过 CloudTrail 和 CloudWatch 进行的全…