实体
Untied Ulysses
Untied Ulysses
PulseAugur coverage of Untied Ulysses — every cluster mentioning Untied Ulysses across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的“进程 Sidecar”方法允许精确撤销语言模型的记忆
研究人员推出了一种名为“进程 Sidecar”的新颖方法，用于在安全训练后撤销语言模型中的学习信息。该技术旨在精确删除特定记忆，而不会像简单的减法方法那样负面影响模型的安全能力。该方法在新的 arXiv 论文中进行了详细介绍，使用了双系数编辑家族，并与标准任务算术相比，在多个模型上显示出改进的拒绝关闭率。
-
Untied Ulysses 实现 300 万 token 上下文的大规模 LLM 训练
使用长上下文窗口（例如 300 万 token）训练大型语言模型在 8xH100 节点等硬件上会面临内存限制。研究人员开发了一种名为 Untied Ulysses 的方法来克服这些限制，从而能够以比以往更大的序列规模训练 8B 和 32B 模型。