Microsoft 已确认 OpenAI 在其 GPT-6 系列模型中使用了 Looped Transformers。此确认最初出现在一个 Microsoft 网页上,证实了此前关于此事的报道。据报道,GPT-6.1 Sol 模型使用了两次推理,比之前的迭代有所减少,并且基于与 GPT-6 Sol 相同的基本模型权重,差异源于训练后和循环次数的减少。然而,Microsoft 此后已从其网页上删除了此信息。 AI
影响 确认了 OpenAI GPT-6 系列中的特定架构选择,可能影响未来的模型开发和对 Transformer 效率的理解。
排序理由 该集群报道了对模型系列技术细节的确认,但主要来源(Microsoft 网页)已更新以删除该信息,使其成为对已撤回声明的评论,而不是直接发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →