PulseAugur
中
实时 11:30:38
Français(FR) Olala mini 7A1B : un LLM open source d'OVH qui tourne sur votre GPU de 8 Go, voire sur un simple processeur. 7 milliards de paramètres dont 1 milliard activé (M

OVHcloud 发布面向消费级硬件的 Olala mini 7A1B 开源 LLM

OVHcloud 发布了 Olala mini 7A1B,这是一个专为高效运行设计的开源大型语言模型。该模型拥有 70 亿参数,激活 10 亿,采用具有 256 个专家的混合专家(Mixture-of-Experts)架构。它可以在 GPU 上达到每秒 160 个 token 的速度,在 CPU 上达到每秒 50 个 token,并且仅需要 8GB 的显存,使其能够兼容消费级硬件。该模型可在 Apache 2.0 许可下使用。 AI

影响 使 LLM 能够高效地部署在消费级硬件上,可能拓宽人工智能能力的普及范围。

排序理由 Frontier-lab 模型发布,系统卡 [lever_c_demoted from frontier_release: ic=1 ai=1.0]

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

OVHcloud 发布面向消费级硬件的 Olala mini 7A1B 开源 LLM

本文如何被排名

Signal score
18 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Significant
Frontier-lab 模型发布,系统卡 [lever_c_demoted from frontier_release: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
model release, product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 Français(FR) · [email protected] ·

    Olala mini 7A1B:OVH开源LLM,可在8GB GPU甚至普通CPU上运行。70亿参数,激活10亿(M

    Olala mini 7A1B : un LLM open source d'OVH qui tourne sur votre GPU de 8 Go, voire sur un simple processeur. 7 milliards de paramètres dont 1 milliard activé (MoE à 256 experts), 160 tokens par seconde sur GPU et 50 sur CPU. Licence Apache 2.0. ⬇️ https:// corporate.ovhcloud.com/…