实体
silx-ai/Quasar-Preview
silx-ai/Quasar-Preview
PulseAugur coverage of silx-ai/Quasar-Preview — every cluster mentioning silx-ai/Quasar-Preview across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Quasar-Preview 模型在 Hugging Face 上实现 5M 上下文长度
silx-ai/Quasar-Preview 模型已在 Hugging Face 上发布，拥有令人印象深刻的 500 万 token 上下文长度。这一上下文窗口的显著增加允许在单次通过中处理和理解更大数量的信息。该模型可用于本地部署，满足那些希望在自己的硬件上运行 AI 模型用户的需求。
-
SILX AI 发布 Quasar-Preview，支持 500 万上下文窗口和 MoE 架构
SILX AI 发布了 Quasar-Preview，这是其 Quasar 基础模型系列的初始公开模型。此早期检查点展示了 Quasar 架构，该架构采用稀疏专家混合（MoE）设计，总参数约 180 亿，激活参数 20 亿。它包含混合循环和注意力层配置，包括 Loop Transformer 和 Quasar 混合注意力，以及一个实验性的 500 万 token 上下文窗口。