SupraLabs发布了SupraBrain-50M-v0.1，这是一款混合语言模型，结合了门控DeltaNet线性递归、滑动窗口注意力（Sliding-Window Attention）和惊喜门控（Surprise-Gated）更新机制。尽管训练数据量显著减少（50亿token对比200亿token），该模型表现出与Supra-Base-50M相当的性能。开发团队还宣布Supra2-100M计划在数小时内发布。 AI
影响 此次发布提供了一种新的混合模型架构，其新颖的递归与注意力机制组合可能影响未来的LLM开发。
排序理由 前沿实验室模型发布，附带系统卡。[lever_c_从frontier_release降级：ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
