BitRun 的开发者发布了 0.2.0-beta 版本,为 1 位 LLM 推出了新的终端驾驶舱。此次更新根据用户反馈,提供了实时的功耗和生成速度遥测数据,并支持高达 80 亿参数的更大模型。BitRun Cockpit 提供了一个交互式聊天界面以及一个显示瓦特、焦耳/token 和 CPU 负载等指标的仪表板,所有这些都可以在标准笔记本电脑上高效运行。 AI
影响 使得在标准硬件上进行更高效、更易于访问的本地 LLM 推理成为可能,有望扩大用户采用范围。
排序理由 这是一个软件工具发布,而不是前沿模型发布或重大行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →