PulseAugur
中
实时 20:48:00
English(EN) 🤖 NVIDIA Nemotron 3.5 Lightning now available in Amazon SageMaker JumpStart NVIDIA Nemotron 3.5 Lightning, an open model built for high-volume agentic workloads

NVIDIA Nemotron 3.5 Lightning 模型现已在 Amazon SageMaker JumpStart 上提供

作者 PulseAugur 编辑部 · [2 个来源] ·

NVIDIA 发布了其 Nemotron 3.5 Lightning 模型，现可通过 Amazon SageMaker JumpStart 访问。该开源模型针对大批量代理任务进行了优化，与同类模型相比，吞吐量提高了四倍，任务完成速度提高了 30%。它采用混合专家混合（Mixture-of-Experts）架构设计，在 300 亿总参数中仅使用 30 亿激活参数，从而能够在一块 GPU 上高效执行专门的代理功能。 AI

影响 能够高效执行专门的代理任务，可能降低大批量代理工作负载的成本和延迟。

排序理由 现有模型在云平台上可用。

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

NVIDIA Nemotron 3.5 Lightning 模型现已在 Amazon SageMaker JumpStart 上提供

报道来源 [2]

  1. AWS Machine Learning Blog TIER_1 English(EN) · Venu Kanamatareddy ·

    NVIDIA Nemotron 3.5 Lightning 现已在 Amazon SageMaker JumpStart 上提供

    NVIDIA Nemotron 3.5 Lightning, an open model built for high-volume agentic workloads, is now available in Amazon SageMaker JumpStart. This post shows how to deploy the 30B Mixture-of-Experts model (3B active), which delivers up to 4x higher throughput and up to 30% faster task co…

  2. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    🤖 NVIDIA Nemotron 3.5 Lightning 现已登陆 Amazon SageMaker JumpStart NVIDIA Nemotron 3.5 Lightning，一款专为大批量代理工作负载而构建的开放模型

    🤖 NVIDIA Nemotron 3.5 Lightning now available in Amazon SageMaker JumpStart NVIDIA Nemotron 3.5 Lightning, an open model built for high-volume agentic workloads, is now available in Amazon SageMaker JumpStart. This post shows how to deploy the 30B Mixture-of-Experts model ... 📰 S…

    链接 aws.amazon.com/…/nvidia-nemotron-3-5-ligh…

相关实体

相关话题