PulseAugur
中
实时 19:36:32
实体 Bosgame M5

Bosgame M5

PulseAugur coverage of Bosgame M5 — every cluster mentioning Bosgame M5 across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 2 条
  1. TOOL · CL_359756 ·

    新的 LLM 推理引擎 unum-rt 在负载下显示出速度提升

    一款名为 unum-rt 的新推理引擎已被开发出来,用于提高本地 LLM 的解码速度,尤其是在负载下。基准测试显示,unum-rt 在处理并发请求时达到每秒 45.1 个 token,显著优于开源引擎的每秒 12.4 个 token。然而,在处理长而冷的提示时,unum-rt 比开源引擎慢,后者显示出更快的首个 token 到达时间和更高的整体吞吐量。开发人员强调,unum-rt 的优势与其特定的重叠 AI 代理请求用例相符,使其更适…

  2. TOOL · CL_176696 ·

    DeepSeek-V4-Flash-0731 在 RTX Pro 6000 Max-Q 上的性能基准测试详情

    一位用户分享了在 Bosgame M5 配备 RTX Pro 6000 Max-Q eGPU 上运行 DeepSeek-V4-Flash-0731 模型的性能基准测试。基准测试详细说明了各种量化级别(UD-Q8_K_XL、UD-Q4_K_XL、UD-Q2_K_XL)及其相应的解码和预填充速度,以及草稿接受率。用户还提供了使用不同配置运行模型的特定命令行参数,包括集成从已关闭的拉取请求移植的 DSpark drafter。