实体 Flex-MemoryLLM

Flex-MemoryLLM

PulseAugur coverage of Flex-MemoryLLM — every cluster mentioning Flex-MemoryLLM across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_122426 · Jul 2 · 00:00

Apple 发布 MemoryLLM，用于可解释的 Transformer FFN

Apple 的机器学习研究团队推出 MemoryLLM，这是一种增强 Transformer 模型中前馈网络 (FFN) 可解释性的新方法。通过将 FFN 与自注意力机制解耦，MemoryLLM 将 FFN 视为无上下文的神经检索记忆，从而可以研究输入 token 如何访问和利用 FFN 参数。这种方法允许将 FFN 作为 token 级别的查找进行预计算，通过允许在 VRAM 和存储之间按需传输来提高推理效率。此外，还提出了 Fle…