实体
NVIDIA TensorRT
NVIDIA TensorRT
PulseAugur coverage of NVIDIA TensorRT — every cluster mentioning NVIDIA TensorRT across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
NVIDIA、OpenAI 和 AWS 详细介绍基础设施和扩展方面的进展
NVIDIA 正在通过新的全局性能调优器增强其 TensorRT 性能优化，旨在扩展到单个构建路由之外。OpenAI 正在快速扩展其在线存储基础设施，以支持超过十亿 ChatGPT 用户。同时，AWS 正在详细介绍如何使用 AWS CDK 来编排 SageMaker AI 端点的自动扩展。
-
AI 模型加速语音合成并实现实时翻译
研究人员开发了 Faster IndexTTS-2，一个显著加速 GPU 部署的自回归文本到语音模型系统。新版本将 GPT 组件的推理速度提高了 5.0 倍，端到端速度提高了 3.6 倍，同时还能实现流式合成和批量推理，而对音频质量的影响极小。另外，OpenAI 已悄然推出 GPT-Realtime-Translate，一个能够跨 70 多种语言进行实时翻译的语音到语音翻译模型，定价为每分钟 0.034 美元。