实体 i7-1165G7

i7-1165G7

PulseAugur coverage of i7-1165G7 — every cluster mentioning i7-1165G7 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

基础设施 1

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_329620 · Oct 29 · 11:39

Llama 3 在笔记本 CPU 上以 6 tokens/秒的速度运行，揭示性能洞察

一位用户成功地在一台标准的惠普笔记本电脑上运行了一个拥有 80 亿参数的 Llama 3 模型，该笔记本配备了 i7-1165G7 CPU 和 12GB RAM，达到了每秒 6 个 token 的速度。实验表明，与 CPU 相比，集成显卡 Iris Xe 在提示读取方面更快，但在答案生成方面更慢，这可能是由于共享内存带宽所致。此外，对于较长的任务，使用 8 位 KV 缓存的效率不如 16 位缓存，而限制 CPU 的功耗不会影响写入速度…