实体
ListOPS
ListOPS
PulseAugur coverage of ListOPS — every cluster mentioning ListOPS across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
通用Transformer在算法任务中实现完美长度泛化
研究人员开发了一种新颖的通用Transformer架构，能够完美地泛化到算法计算中的任意长度。该模型参数效率高，仅用280个可学习参数即可完成布尔代数任务，它将算法问题概念化为嵌入在Transformer中的电路。通过引入深度跟踪位置编码并采用掩码硬注意力，该模型实现了高效计算和自主停止，在包括布尔表达式、模运算和ListOPS在内的基准测试中展示了精确的长度泛化能力。
-
Chiaroscuro Attention 通过动态令牌路由优化 Transformer 计算
研究人员开发了 CHIAR-Former，这是一种新颖的 4 层 Transformer 模型，通过动态路由令牌来优化计算使用。CHIAR-Former 不会统一应用自注意力，而是分析令牌的频谱熵，将每个令牌导向三个算子之一：DCT 频谱混合、RBF 核混合或全自注意力。这种方法在大型自然语言文本上显著提高了性能，在 WikiText-103 上实现了 45% 的困惑度改进，同时注意力 FLOPs 比标准 Transformer 减少…
-
OpenAI推出GPT-5.5 Instant，同时NRGPT探索基于能量的GPT替代方案
OpenAI已将ChatGPT更新至GPT-5.5 Instant，增强了其默认模型以获得更准确的响应和更好的个性化。此次升级旨在减少幻觉，并为用户提供更清晰、更量身定制的交互。此外，研究人员提出了NRGPT，一种基于能量的模型，将生成式预训练重新构建为能量景观的探索，可能为标准的GPT架构提供替代方案。