实体
llamaccp
llamaccp
PulseAugur coverage of llamaccp — every cluster mentioning llamaccp across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Linus Tech Tips 在人工智能和笔记本电脑技术讨论中批评 Nvidia
据报道，Linus Tech Tips (LTT) 正在批评 Nvidia，用户暗示 LTT 正在“嘲讽 Nvidia”。背景似乎涉及围绕 Nvidia 技术以及可能的竞争性或替代解决方案（如 N1X、LlamaCCP 和 Ollama）的讨论，可能与笔记本电脑和人工智能有关。
-
Bonsai-Ternary-27B 模型可在 16GB GPU 上本地运行复杂的 AI 任务
一位用户分享了在 4060Ti 16GB GPU 上本地运行 Bonsai-Ternary-27B 模型以进行知识库管理和生产力任务的经验。该模型成功处理了复杂的任务，包括查询、信息综合以及与自定义项目管理系统交互，甚至处理了图像数据。虽然它展示了良好的推理和工具使用能力，但其性能受到比预期慢的预填充速度（600-700tk/s）和显著的 KV 缓存使用率的阻碍，即使经过量化，也将上下文窗口限制在 150k 个 token。