Amazon EKS
PulseAugur coverage of Amazon EKS — every cluster mentioning Amazon EKS across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
AWS SageMaker HyperPod 支持企业智能体进行多轮强化学习训练
AWS 在 Amazon SageMaker HyperPod 上推出了一种用于训练多轮强化学习智能体的新基础设施。该系统利用 Amazon Nova Forge，旨在通过从整个交互序列中学习，而不是孤立的响应，来优化智能体处理复杂的多步工作流。部署涉及一个事件驱动的管道，该管道可自动配置计算资源并路由奖励，使智能体能够学习工具编排和错误恢复，以完成诸如玩 Wordle 等任务。
-
Amazon SageMaker AI 推出多轮强化学习新服务
Amazon SageMaker AI 推出了新的多轮强化学习 (MTRL) 服务，旨在训练能够处理复杂、顺序任务的智能体。该服务旨在简化开发能够与工具交互、从错误中恢复以及从多步骤过程中学习的智能体的过程。它提供了模块化智能体-环境接口、无服务器执行、异步推出和原生算法库等功能，同时还提供了对训练指标的可观测性。
-
使用 Docker、Kubernetes 和 Traefik 在 AWS EKS 上部署 ML 模型
本文详细介绍了在 AWS Elastic Kubernetes Service (EKS) 上使用 MLOps 实践部署机器学习模型的过程。内容涵盖使用 Docker 进行容器化、Kubernetes 进行编排以及 Traefik Proxy 在 EKS 环境中管理网络流量。
-
Cara利用AWS AI自动化保险经纪业务
Cara是一个基于AWS构建的AI原生解决方案，通过自动化复杂的后台任务，正在革新保险经纪行业。该平台利用Amazon Bedrock提供领域特定的AI能力，例如承保智能和表格自动化，这些能力是通用AI工具因监管和数据敏感性要求而无法复制的。通过使用Amazon EKS和Bedrock等服务，Cara提供了可扩展、安全且合规的解决方案，帮助保险公司提高效率和收入。
-
通过生命周期对齐缓解 EKS 升级期间的 RayServe 错误
本文详细介绍了一种在 Kubernetes (EKS) 升级和节点中断期间防止 RayServe 5xx 错误的策略。作者解释了如何对齐 Ray、Kubernetes 和 Karpenter 的生命周期，以消除推理请求丢失。这种方法确保了机器学习模型服务基础设施的更顺畅的运行。
-
EKS 优雅 Pod 关闭修复解决了部署期间的 502 错误
Amazon EKS 中常见的优雅 Pod 关闭问题（在部署期间导致 502 错误）已得到解决。该问题源于 Kubernetes 将 Pod 从服务端点移除与 AWS Load Balancer Controller 注销 Pod IP 地址之间的时间差。这个间隙允许负载均衡器继续将流量发送到已终止的 Pod，从而导致 502 错误。解决方案包括实现一个带有延迟的 preStop 钩子，在注销期间保持 Pod 存活，并调整注销延迟，从…
-
AWS 为小鹏、Kimi 和猎豹移动提供 AI 代理支持
Amazon Web Services (AWS) 正在赋能小鹏、Kimi 和猎豹移动等公司将 AI 代理集成到其核心业务运营中。小鹏利用 AWS 服务开发了名为“灵犀”的内部 AI 编码和代理工作平台，以自动化复杂的开发工作流程并显著缩短 bug 修复时间。中国大模型公司 Kimi 正与 AWS 合作，利用 AWS 的基础设施进行模型部署以及与 Amazon SageMaker 和 Bedrock 等服务的集成，以拓展其全球业务。猎…
-
LiteLLM 部署在 AWS EKS 上以实现统一的 LLM 管理
LiteLLM 已部署在 AWS EKS 上，以解决管理多个大型语言模型提供商的复杂性。这个统一的网关简化了对 100 多个 LLM 提供商的访问，提供了自动扩展、预算控制和高可用性等功能。该架构利用 Kubernetes 进行编排，并通过 ArgoCD 进行 GitOps 以实现声明式状态管理，旨在提供一个健壮且成本优化的解决方案。
-
AI 代码审查机器人因 AZ 故障而失效，通过 LLM 网关修复
一个工程团队在 AWS 可用区 (AZ) 故障转移期间，其 AI 辅助代码审查机器人失效，导致了服务中断。这些机器人直接调用 Anthropic 的 API，由于受影响 AZ 的网络问题而变得无响应，导致构建超时。该团队通过实施 Bifrost（一个开源 LLM 网关）来解决此问题，该网关将 API 调用路由到更具弹性的多 AZ 部署，并支持 GPT-4o-mini 等其他模型的备用方案。
-
平台工程师使用 KServe 在 EKS 上部署 ML 模型的指南
本指南详细介绍了平台工程师如何使用 KServe 在 Amazon Elastic Kubernetes Service (EKS) 上有效地部署机器学习模型。它提供了设置必要的基础设施和配置以实现强大 ML 模型部署的循序渐进的方法。文章强调了最佳实践，以确保在 Kubernetes 环境中成功高效地服务模型。
-
Rust MCP 服务器部署指南涵盖 AWS 和 Azure
本系列文章详细介绍了如何部署一个用 Rust 构建的基础 MCP 服务器。指南涵盖了部署到各种云平台，包括 AWS Lambda、Azure Container Apps、Amazon EKS 和 Amazon Fargate。每个指南都利用 `rmcp` crate 和标准的 Rust 库来构建服务器。
-
AWS Bedrock AgentCore Identity 增强 ECS 上的 AI 代理安全性
Amazon Bedrock AgentCore Identity 现在为在生产环境中运行的 AI 代理提供增强的安全性。这项作为独立服务提供的新功能，确保 AI 代理能够安全地访问外部服务，无论其部署平台如何，包括 Amazon ECS、EKS、AWS Lambda 或本地设置。该解决方案利用 OAuth 2.0 和 OpenID Connect 进行强大的身份验证和授权，并实施授权码授予流程，结合安全的会话绑定和基于用户同意的范围…
-
AWS Bedrock 通过 AgentCore Gateway 增强 AI 代理安全性，实现私有资源访问
Amazon Bedrock 推出了 AgentCore Gateway VPC 连接功能，这是一项旨在使 AI 代理能够安全访问 AWS 环境内私有资源的新功能。此功能允许代理连接到内部 API、数据库和其他资源，而无需将网络流量暴露给公共互联网。该系统利用 Resource Gateway 直接在虚拟私有云 (VPC) 中配置弹性网络接口，从而促进与指定端点的安全连接。