PulseAugur
实时 22:43:03

NVIDIA 发布 Nemotron LLM 以实现高效推理和音频任务 · 跟踪 2 个来源

NVIDIA 发布了两款新的大型语言模型:Nemotron-Labs-3-Puzzle-75B-A9B,这是 Nemotron-3-Super-120B-A12B 的优化版本,旨在提高推理效率和长上下文工作负载。该模型采用混合 MoE 架构,在保持各种基准测试准确性的同时减少了参数数量。此外,NVIDIA 还推出了 Nemotron-Labs-Audex-30B-A3B,这是一款基于 Nemotron-Cascade-2-30B-A3B 构建的音频文本 LLM。Audex-30B-A3B 将其能力扩展到音频任务,如语音识别、翻译和生成,同时保留了其纯文本骨干的强大推理和知识能力,并支持 1M token 的上下文长度。 AI

影响 这些发布提高了交互式和长上下文工作负载的效率,并将 LLM 的能力扩展到音频处理领域,有可能加速在专业 AI 应用中的采用。

排序理由 集群包含 NVIDIA(一家前沿实验室)发布的新 LLM 模型公告。[lever_c_demoted from frontier_release: ic=2 ai=1.0]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

NVIDIA 发布 Nemotron LLM 以实现高效推理和音频任务 · 跟踪 2 个来源

报道来源 [2]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/jacek2023 ·

    nvidia/NVIDIA-Nemotron-Labs-3-Puzzle-75B-A9B-BF16 · Hugging Face

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1upsdmi/nvidianvidianemotronlabs3puzzle75ba9bbf16_hugging/"> <img alt="nvidia/NVIDIA-Nemotron-Labs-3-Puzzle-75B-A9B-BF16 · Hugging Face" src="https://external-preview.redd.it/9KNaWiT3A0U4xGNY8hRs0D9rkm6EHuN3da…

  2. r/LocalLLaMA TIER_1 English(EN) · /u/pmttyji ·

    nvidia/Nemotron-Labs-Audex-30B-A3B · Hugging Face

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1upnm8x/nvidianemotronlabsaudex30ba3b_hugging_face/"> <img alt="nvidia/Nemotron-Labs-Audex-30B-A3B · Hugging Face" src="https://external-preview.redd.it/I6RTEmv-UD7si5r-ldUn2OnbIIuovU5Lzh5-mTaD-04.png?width=64…