实体
GPTNeoX
GPTNeoX
PulseAugur coverage of GPTNeoX — every cluster mentioning GPTNeoX across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
GPTNeoX 模型中的潜在推理显示出卓越的泛化能力
一篇新论文探讨了大型语言模型如何执行多步推理，研究了不同的计算方法是否依赖于共享的底层机制。研究人员在复杂的推理任务上训练了 GPTNeoX 模型的五个变体，发现与使用思维链或暂停令牌方法相比，使用潜在推理的模型在分布外问题上泛化得更好。电路分析显示，潜在变体采用了稀疏循环搜索算法，这表明不同的推理机制确实可以学习独立的计算解决方案。
-
Hugging Face 在 Transformers v5.14.0 中发布 Inkling 多模态模型
Hugging Face 发布了其 Transformers 库的 5.14.0 版本，引入了 Inkling 多模态模型。Inkling 由 Thinking Machines 开发，是一个拥有 975B 参数的模型，能够处理文本、图像和音频输入以生成文本输出。此次发布还包括对 TIPSv2 模型的更新、性能增强以及与生成、缓存和内核操作相关的各种错误修复。随后发布了 5.14.1 版本，以解决辅助生成和预填充操作的特定问题。