Graph Memory Transformer
PulseAugur coverage of Graph Memory Transformer — every cluster mentioning Graph Memory Transformer across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Zambo平台通过多会话代理交接创下新的收据记录
Zambo平台创下了新的每日收据记录，一天内处理了4,255笔。该系统支持多会话工作流，一个代理可以完成任务并将其移交给另一个代理继续处理。此交接过程是免费的，使第二个代理可以在不产生额外费用的情况下接手工作。但是，在达到初始免费套餐限制后，该平台会对后续操作（例如将交接记录到原始作业或创建新的交接）强制执行付费墙。
-
新框架实现了RKHS中的范数最优模型降阶
研究人员开发了一个在Reproducing Kernel Hilbert Spaces (RKHSs)中进行模型降阶 (MOR) 的新框架。该框架将现有的范数最优降阶模型所需的插值条件进行了扩展，这些条件最初应用于Hardy-Hilbert空间中的有理函数。所提出的方法利用广义Malmquist-Takenaka函数在RKHSs中创建标准正交基，从而实现了对具有可微和不可微核的模型进行范数最优MOR。该方法已通过对支持向量机和深度Re…
-
Hugging Face 推出 Graph Memory Transformer，用学习到的内存图替换 FFN
研究人员开发了一种图内存 Transformer (GMT)，它用显式的学习内存图替换了仅解码器 Transformer 中的标准前馈网络 (FFN) 子层。这种新架构保持了因果自注意力，但使用内存单元通过由有向转移矩阵连接的质心库来路由 token 表示。虽然具有 8220 万个参数的 GMT 模型训练稳定并提供可检查的组件，但它在验证损失和困惑度方面目前表现不如密集 GPT 风格的基线，尽管它在零样本基准测试中的行为相当。
-
图记忆Transformer用学习到的记忆图替换FFN，以提高可解释性
研究人员开发了一种图记忆Transformer (GMT)，它用显式的学习记忆图替换了仅解码器语言模型中的标准前馈网络 (FFN) 子层。这种新架构 GMT v7 在其 16 个 Transformer 块中的每一个块内使用了 128 个质心和一个有向转移矩阵。虽然参数量为 8220 万的 GMT 模型在零样本基准测试性能上与更大的 GPT 风格基线相当，但在验证损失和困惑度方面落后，这表明未来有优化的潜力和扩展性。