Amazon EKS
PulseAugur coverage of Amazon EKS — every cluster mentioning Amazon EKS across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
Fanatics Betting and Gaming 在 AWS 上构建多智能体 AI 支持系统
Fanatics Betting and Gaming 已在 AWS 上开发了一个多智能体 AI 客户支持系统，以满足体育博彩用户复杂且快速变化的需求。该系统基于 Amazon EKS 构建，并利用 Amazon Bedrock 访问各种基础模型，旨在提供比传统聊天机器人更快、更准确的响应，尤其是在超级碗等高流量赛事期间。该架构利用专门的智能体来处理各种查询，包括特定州的法规和负责任博彩，同时纳入了合规和负责任 AI 的安全措施。
-
AWS 推出 Claude 应用网关，用于企业 Anthropic 模型管理
AWS 推出了新的网关解决方案，旨在帮助企业为其员工管理 Anthropic 的 Claude 模型。该网关提供对身份验证、模型访问、成本归属和支出强制执行的集中控制，从而减少运营开销并确保大规模的一致治理。该解决方案可在 AWS Fargate、EKS 或 EC2 上部署，并与 Amazon Bedrock 和 Claude Platform on AWS 等服务集成，支持包括 OIDC 身份提供商在内的多种身份验证方法。
-
Amazon SageMaker AI 与 EKS 集成，增强 AI 工作流
Amazon SageMaker AI 为 Amazon EKS 推出了一个插件，支持在 EKS 集群上直接运行交互式 IDE 和 JupyterLab 环境。此次集成旨在通过允许 ML 团队在现有基础设施内管理其开发环境，来简化 AI 工作流。该解决方案旨在简化 EKS 上的代码编辑器和托管 JupyterLab 实例的设置和配置。
-
AWS SageMaker AI Spaces 将 IDE 集成到 EKS 集群中
Amazon Web Services 为 Amazon EKS 推出了名为 SageMaker AI Spaces 的新附加组件。此功能允许数据科学家直接在其现有的 Amazon EKS 集群中运行交互式集成开发环境 (IDE)，例如 JupyterLab 和 Code Editor。以前，用户必须将工作流移出集群，从而失去对 GPU 节点和共享存储等关键资源的访问权限。SageMaker AI Spaces 附加组件简化了此过程，…
-
OpenAI CFO 分享 AI 财务经验；nOps 通过 AWS 加速代理交付
OpenAI CFO Sarah Friar 概述了在开发原生 AI 财务功能方面学到的五项关键经验，强调了自动化预测和控制的重要性，以及衡量 AI 投资回报的必要性。在另一项发展中，nOps 通过将其 Clara FinOps AI 代理迁移到 Amazon Bedrock AgentCore，将 FinOps 代理的交付速度提高了 75%，取代了之前使用 LangChain 和 LangGraph 的自管 Amazon EKS 堆栈。
-
使用 vLLM 在 Amazon EKS 上部署 LLM：分步指南
本文提供了使用 vLLM 在 Amazon EKS 上部署大型语言模型 (LLM) 的分步指南。文章强调了 Gartner 的预测，即到 2028 年，95% 的 AI 部署将使用 Kubernetes，并突出了对 MLOps 和平台工程技能的需求。该指南详细介绍了设置 EKS 集群、使用 vLLM 部署 meta-llama/Llama-3.1-8B-Instruct 模型以实现高效推理，以及配置兼容 OpenAI 的 API 和聊…
-
Amazon EKS with MCP：AI 驱动的 Kubernetes 管理指南
本文提供了设置和管理 Amazon Elastic Kubernetes Service (EKS) 的综合指南，重点关注使用 MCP 进行 AI 驱动的 Kubernetes 管理。它详细介绍了核心架构，包括 EKS 控制平面、托管节点组以及 VPC CNI 等网络组件。该指南还涵盖了 AWS 身份验证、EKS 访问条目、Kubernetes 基于角色的访问控制 (RBAC) 以及使用 Terraform 部署应用程序等基本方面。
-
KMCP 通过 Kubernetes 控制器简化 AI 代理工具的暴露
KMCP 是一款新的 Kubernetes 控制器，旨在简化 MCP（模型通信协议）服务器的部署和管理。这些服务器通常用于向 AI 代理暴露工具和服务，但传统上需要为每个工具进行大量的手动配置。KMCP 通过使用自定义资源定义 (CRD) 和控制器来自动化此过程，将 MCP 服务器的部署减少到大约 20 行 YAML。这种方法允许平台团队管理核心基础设施，而各个团队可以通过标准的 GitOps 工作流部署他们特定的 MCP 服务器。
-
Kimi K3 前沿模型部署在 AWS 上需要庞大的基础设施
已成功演示了在 AWS 基础设施（特别是 SageMaker HyperPod 和 EKS）上部署开放权重前沿模型 Kimi K3。此次部署突显了在云平台上运行此类先进模型的可行性，但也强调了支持数万亿参数模型所需的重大基础设施要求。
-
Moonshot AI 发布 Kimi K3，一款 2.8T 参数的开源 MoE 模型
Moonshot AI 发布了 Kimi K3，这是一款拥有 2.8 万亿参数的开源专家混合（MoE）模型。该模型采用了 Kimi Delta Attention 等架构创新，提高了扩展效率，并在长时程编码和代理工作流等复杂任务上表现出色。模型权重以 MXFP4 格式在 Hugging Face 上提供，并详细介绍了如何使用 Amazon SageMaker HyperPod 和 Amazon EKS 在 AWS 上进行部署，这需要 …
-
AWS LLM 托管：Bedrock、SageMaker 与自托管成本对比
对在 AWS 上运行大型语言模型 (LLM) 的比较显示，Bedrock、SageMaker Endpoints 和 EKS 上的自托管解决方案在成本和运营方面存在不同的权衡。对于客户服务聊天等低流量、高质量的任务，Bedrock 的按 token 付费模式提供了简洁性和速度。然而，对于分类或嵌入等高流量、成本敏感的任务，使用 vLLM 在 EKS 上结合 GPU spot 实例自托管 LLM 更具经济效益，预计在每天 10,000-…
-
将 SageMaker 的机器学习模型训练和部署自动化
本文详细介绍了一个自动化的 MLOps 工作流程，用于将机器学习模型从训练转移到 Amazon EKS 上的生产环境。它利用 Amazon SageMaker 进行模型调优、评估和可解释性分析，然后使用 AWS CodeBuild 和 Amazon ECR 进行容器化和部署。该过程强调可重复性，确保部署使用可追溯的模型构件和已批准的软件包。
-
Claude Code 代理通过嵌套子代理简化 AWS 生产故障排除
本文探讨了 Claude Code 的子代理功能如何用于改进 AWS 环境中的生产故障排除。作者详细介绍了嵌套子代理如何隔离冗长的诊断任务，防止它们干扰主要的对话上下文。像 Aurora、EKS、SES 和 EC2 这样的特定 AWS 服务被作为示例进行讨论，说明这种方法如何能够精确定位不同层级的根本原因。
-
AWS SageMaker HyperPod 支持企业智能体进行多轮强化学习训练
AWS 在 Amazon SageMaker HyperPod 上推出了一种用于训练多轮强化学习智能体的新基础设施。该系统利用 Amazon Nova Forge，旨在通过从整个交互序列中学习，而不是孤立的响应，来优化智能体处理复杂的多步工作流。部署涉及一个事件驱动的管道，该管道可自动配置计算资源并路由奖励，使智能体能够学习工具编排和错误恢复，以完成诸如玩 Wordle 等任务。
-
Amazon SageMaker AI 推出多轮强化学习新服务
Amazon SageMaker AI 推出了新的多轮强化学习 (MTRL) 服务，旨在训练能够处理复杂、顺序任务的智能体。该服务旨在简化开发能够与工具交互、从错误中恢复以及从多步骤过程中学习的智能体的过程。它提供了模块化智能体-环境接口、无服务器执行、异步推出和原生算法库等功能，同时还提供了对训练指标的可观测性。
-
使用 Docker、Kubernetes 和 Traefik 在 AWS EKS 上部署 ML 模型
本文详细介绍了在 AWS Elastic Kubernetes Service (EKS) 上使用 MLOps 实践部署机器学习模型的过程。内容涵盖使用 Docker 进行容器化、Kubernetes 进行编排以及 Traefik Proxy 在 EKS 环境中管理网络流量。
-
Cara利用AWS AI自动化保险经纪业务
Cara是一个基于AWS构建的AI原生解决方案，通过自动化复杂的后台任务，正在革新保险经纪行业。该平台利用Amazon Bedrock提供领域特定的AI能力，例如承保智能和表格自动化，这些能力是通用AI工具因监管和数据敏感性要求而无法复制的。通过使用Amazon EKS和Bedrock等服务，Cara提供了可扩展、安全且合规的解决方案，帮助保险公司提高效率和收入。
-
通过生命周期对齐缓解 EKS 升级期间的 RayServe 错误
本文详细介绍了一种在 Kubernetes (EKS) 升级和节点中断期间防止 RayServe 5xx 错误的策略。作者解释了如何对齐 Ray、Kubernetes 和 Karpenter 的生命周期，以消除推理请求丢失。这种方法确保了机器学习模型服务基础设施的更顺畅的运行。
-
EKS 优雅 Pod 关闭修复解决了部署期间的 502 错误
Amazon EKS 中常见的优雅 Pod 关闭问题（在部署期间导致 502 错误）已得到解决。该问题源于 Kubernetes 将 Pod 从服务端点移除与 AWS Load Balancer Controller 注销 Pod IP 地址之间的时间差。这个间隙允许负载均衡器继续将流量发送到已终止的 Pod，从而导致 502 错误。解决方案包括实现一个带有延迟的 preStop 钩子，在注销期间保持 Pod 存活，并调整注销延迟，从…
-
AWS 为小鹏、Kimi 和猎豹移动提供 AI 代理支持
Amazon Web Services (AWS) 正在赋能小鹏、Kimi 和猎豹移动等公司将 AI 代理集成到其核心业务运营中。小鹏利用 AWS 服务开发了名为“灵犀”的内部 AI 编码和代理工作平台，以自动化复杂的开发工作流程并显著缩短 bug 修复时间。中国大模型公司 Kimi 正与 AWS 合作，利用 AWS 的基础设施进行模型部署以及与 Amazon SageMaker 和 Bedrock 等服务的集成，以拓展其全球业务。猎…