已提交一个拉取请求,为 llama.cpp 库添加对 Aleph Alpha 的 Kolibri-1 模型支持。Kolibri-1 是一个 78B 参数的混合专家模型,针对长上下文任务和高效推理进行了优化,专注于德语和英语。它具有显式的推理能力和工具调用功能,并且需要大量的硬件资源才能运行。 AI
影响 能够在消费级硬件上本地推理 Kolibri-1 模型。
排序理由 这是为现有软件库添加特定模型支持的拉取请求,而不是前沿实验室发布的新模型。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →