PulseAugur
中
实时 06:35:38
实体 ROG 7

ROG 7

PulseAugur coverage of ROG 7 — every cluster mentioning ROG 7 across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_296400 ·

    学生将安卓手机集群以在本地无过热运行27B大语言模型

    一名高中生开发了一种新颖的方法,通过集群两部旧安卓手机,在本地运行一个27B参数的大语言模型。该设置使用了一个自定义的C++引擎,通过USB线上的RPC拆分模型层,从而绕过了内存限制。该系统利用CPU上运行时Hadamard变换的独特三元量化方法,实现了约2.8 tokens/秒的生成速度,且没有过热问题。