实体
Ternary Bonsai
Ternary Bonsai
PulseAugur coverage of Ternary Bonsai — every cluster mentioning Ternary Bonsai across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Ternary Bonsai模型因性能不佳面临用户批评
Reddit的r/LocalLLaMA板块的一位用户对Ternary Bonsai模型（一个拥有270亿参数的模型）的表现表示失望。尽管备受关注，但用户发现其性能不佳，并质疑自己是否错过了什么，或者该模型是否只是被过度炒作了。该用户还提到了Prisml正在进行的各项工作。
-
llama.cpp 为 CPU 添加 Q2_0 量化以支持 Ternary Bonsai 模型
一项针对 llama.cpp 项目的拉取请求引入了对 CPU 的 Q2_0 量化支持，主要目的是启用 Ternary Bonsai 模型的使用。此更新完成了 CPU 的 Q1_0、Q2_0、Q4_0 和 Q8_0 量化系列，并计划提交对 x86、Metal、CUDA 和 Vulkan 的额外后端支持。此增强的动机是促进各种 Ternary Bonsai 模型（包括 1.7B、4B 和 8B 参数版本）的部署。