实体
Ali Behrouz
Ali Behrouz
PulseAugur coverage of Ali Behrouz — every cluster mentioning Ali Behrouz across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Google Research 推出“睡眠框架”以实现大型语言模型知识保留
Google Research 推出了一种新颖的“睡眠框架”，用于大型语言模型，其灵感来源于人类在睡眠期间的记忆巩固。该框架使大型语言模型能够持续学习和整合新信息，而不会遭受灾难性遗忘或仅依赖有限的上下文学习。模型在处理输入的活跃“清醒”阶段和巩固记忆及自我改进的“睡眠”阶段之间交替进行，从而实现长期知识保留和增强的推理能力。
-
谷歌研究人员提出LLM的“睡眠”和“做梦”以改进持续学习
谷歌研究人员提出了一种新的大语言模型范式，建议模型在“清醒”和“睡眠”状态之间交替。在“清醒”期间，模型处理信息并执行任务，而“睡眠”期间则通过称为“做梦”的过程来巩固近期经验并基于合成数据进行训练。这种方法旨在通过将快速适应与稳定知识整合分开来解决灾难性遗忘的挑战，并实现持续学习，从而可能产生能够随时间演变的而非在初始训练后保持静态的模型。