实体
Trinity Mini
Trinity Mini
PulseAugur coverage of Trinity Mini — every cluster mentioning Trinity Mini across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
LLM 上下文基准测试：预填充速度和 KV 缓存对代理最重要
对 13 种不同的大型语言模型在 65K 至 128K 令牌的上下文长度下进行的基准测试显示，对于代理工作负载而言，提示处理（预填充）速度是最关键的因素，而不是令牌生成速度。使用 llama.cpp 在 RX 7900 XT GPU 上进行的测试表明，KV 缓存配置和模型架构（特别是 MoE 模型）显著影响了性能。结果表明，优化预填充效率是需要广泛上下文处理的应用程序的关键。
-
Arcee AI 全力支持在美国构建的开源模型
Arcee AI 发布了其旗舰开源模型 Trinity Large，这是一个拥有 4000 亿参数的混合专家模型，其中 130 亿参数处于激活状态。该模型使用 Nvidia Blackwell B300 GPU 在 17 万亿个 token 上进行了训练，代表了美国本土开源模型开发的一个重要进展。该公司专注于将开源模型货币化以用于本地部署，并在六个月内完成了此次训练，花费约 2000 万美元。