实体
Natalie Schluter
Natalie Schluter
PulseAugur coverage of Natalie Schluter — every cluster mentioning Natalie Schluter across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Apple 研究人员发布 LLM 预训练数据混合缩放定律
Apple Machine Learning Research 发布了关于优化语言模型预训练数据混合的研究成果，特别是在处理有限目标数据的情况下。他们进行了超过 2000 次训练的广泛研究，发现将稀缺的目标数据重复 15-20 次比之前认为的更有效，尤其是在与丰富的通用数据结合时。该研究引入了一个新的缩放定律，该定律考虑了重复标记的价值递减和通用数据的正则化效应，为在约束条件下配置数据混合提供了一种原则性的方法。
-
苹果研究人员提出LINK以实现高效多语言AI模型训练
苹果机器学习研究院（Apple Machine Learning Research）推出了一种名为LINK的新方法，旨在改进多语言语言模型中的跨语言知识迁移，尤其是在训练数据有限的语言方面。该技术涉及词汇干预，即使用双语词汇将高资源语言（英语）训练数据中的单词替换为其翻译。这种方法无需额外的模型训练，只需一个易于获取的双语词汇表，即可在不同模型大小和语言的下游任务上以同等性能实现训练时间的显著加速。