PulseAugur
中
实时 17:52:17
实体 AWS Deep Learning Containers

AWS Deep Learning Containers

PulseAugur coverage of AWS Deep Learning Containers — every cluster mentioning AWS Deep Learning Containers across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
时间线
  1. 2026-09-09 product_launch AWS launches new Ray Serve Deep Learning Containers to simplify AI inference workloads following the deprecation of TorchServe. 来源
  2. 2026-09-09 product_launch AWS launched new Ray Serve Deep Learning Containers to simplify AI inference workloads. 来源
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 2 条
  1. RESEARCH · CL_295606 ·

    通过量化、内存、并行和调度探索 LLM 推理效率

    研究人员正在探索各种方法来提高大型语言模型 (LLM) 推理的效率和可扩展性。一种方法侧重于通过量化技术实现能源效率，在精度损失极小的情况下展示出显著的节能效果，尤其是在融合内核实现中。另一个研究领域涉及为 LLM 加装外部内存模块，以更有效地处理长上下文，提高准确性并减少内存使用。此外，研究正在调查并行策略，例如张量并行和流水线并行，以优化分布式 LLM 服务系统的吞吐量和延迟权衡。最后，正在为无服务器 LLM 推理开发新颖的调度框…
  2. TOOL · CL_243849 ·

    AWS 推出新的 Ray Serve 容器，简化 AI 推理流程，因 TorchServe 已弃用

    AWS 发布了新的深度学习容器 (DLCs)，利用 Ray Serve 来简化和支持之前由 TorchServe 管理的工作负载。TorchServe 已不再积极维护，用户需要自行负责管理其依赖项、安全补丁和兼容性问题。新的 Ray Serve DLCs 可用于 Amazon EKS 和 Amazon SageMaker，将 PyTorch、CUDA 和 Ray Serve 打包到一个经过测试和维护的容器中，减少了工程师的重复性工作，…