Inception Labs推出了Mercury 3,这是一款新推出的基于扩散的语言模型,旨在解决AI代理工作流中的延迟问题。与传统的逐个token生成文本的自回归模型不同,Mercury 3采用并行精炼方法,使其能够实现显著更高的速度。该模型报告称在NVIDIA GPU上每秒可生成高达1,068个token,并提供100万token的上下文窗口,使其适用于实时应用和对速度至关重要的代理任务。 AI
影响 该模型对低延迟和并行生成的关注可以显著加快复杂AI代理工作流的速度。
排序理由 前沿实验室模型发布,附带系统卡[lever_c_demoted from frontier_release: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →