实体
Gemma 4 26B A4B QAT
Gemma 4 26B A4B QAT
PulseAugur coverage of Gemma 4 26B A4B QAT — every cluster mentioning Gemma 4 26B A4B QAT across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
大型语言模型集成到硬件设计和设备端应用中
研究人员正在探索将大型语言模型（LLMs）集成到硬件设计和设备端应用中。一篇论文讨论了如何保护芯片小片系统和LLM驱动的电子设计自动化（EDA）流程免受硬件攻击。另一个框架RooflineBench旨在通过分析设备端LLM在资源受限硬件上的性能特征来进行基准测试。此外，还在进行实际实验，以测试消费级硬件上本地LLM的能力，评估它们在编码任务中的性能以及从二进制代码中识别处理器架构的能力。
-
llama.cpp 性能通过优化线程数提升 80%
Reddit r/LocalLLaMA 子版块的一位用户通过调整 `--threads` 参数，在 llama.cpp 推理引擎中发现性能显著提升。最初认为在混合 CPU 设置中，将线程数限制为性能核心的数量是最优的。然而，使用 Gemma 4 26B A4B QAT 模型进行测试表明，在拥有 18 个核心（6 个性能核心，12 个效率核心）的 CPU 上将线程数增加到 16，性能提升了约 80%。这一发现表明，用户应该尝试超出性能核…