实体
SGCB
SGCB
PulseAugur coverage of SGCB — every cluster mentioning SGCB across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
2026年，GTX 1080 Ti等老旧GPU可运行12B大语言模型
一项最新分析表明，到2026年，老旧GPU（特别是11GB显存的GTX 1080 Ti）仍能有效运行大语言模型。通过在Ollama中使用量化感知训练和闪电注意力（flash-attention）等技术，高达120亿参数的模型可以达到约每秒30个token的可用速度，并完全载入GPU显存。虽然更大模型或需要CPU分载的模型速度会显著下降，但这表明即使是预算有限、使用老旧硬件的用户也能参与本地大语言模型推理。
-
unsloth 发布基于 Cohere 30B 模型的新款 North-Mini-Code-1.0
unsloth 发布了一款新的 GGUF 模型 North-Mini-Code-1.0，该模型基于 Cohere 的 30B A3B 模型。此次发布可能与 llama.cpp 项目的最新进展有关，特别是可能启用其使用的某个拉取请求。该模型可在 Hugging Face 上下载。