PulseAugur
中
实时 13:50:53
实体 Qwen3.8-27B GSQ-RCO IQ3_XXS

Qwen3.8-27B GSQ-RCO IQ3_XXS

PulseAugur coverage of Qwen3.8-27B GSQ-RCO IQ3_XXS — every cluster mentioning Qwen3.8-27B GSQ-RCO IQ3_XXS across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_366986 ·

    27B AI 代理使用新颖的 KV 缓存优化在 12GB 笔记本 GPU 上运行

    一位开发者详细介绍了一种在只有 12GB GPU VRAM 的笔记本电脑上运行 270 亿参数本地 AI 代理的方法。该方法名为 Sparkle-Qwen27b-Kvmem-ninfer,专注于优化 KV 缓存,该缓存会随着上下文长度的增加而消耗大量内存。通过实现一个分层 KV 缓存系统(KVMem),将访问频率较低的数据存储在系统 RAM 中并在需要时检索,该代理可以在不耗尽 GPU 内存的情况下处理更长的上下文。