实体
Bergson
Bergson
PulseAugur coverage of Bergson — every cluster mentioning Bergson across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究绘制语言模型社会推理的起源图谱
研究人员开发了一种方法，通过分析其训练数据来理解语言模型中社会推理能力的来源。他们使用基于梯度的归因方法对 Dolma3 数据集进行分析，绘制了语料库中对社会推理和 STEM 推理有贡献的特定区域。研究发现，社会推理和 STEM 推理的来源数据不同，推理能力比事实知识对这些差异更敏感。有针对性的遗忘实验部分验证了这些发现，表明移除高归因数据箱会损害对齐基准。
-
Bergson 库发布，用于机器学习中的开源数据归因
一个名为 Bergson 的新开源库已发布，旨在促进机器学习中的数据归因。该库旨在通过追溯模型行为对其训练数据的依赖来简化解释模型行为的过程。Bergson 为大型语言模型和预训练数据集提供了可扩展的技术，包括对分布式训练和磁盘上梯度存储的支持。它还提供了三种著名数据归因方法（MAGIC、SOURCE 和 TrackStar）的开源实现。