实体
LLM Training
LLM Training
PulseAugur coverage of LLM Training — every cluster mentioning LLM Training across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
欧盟法院就AI版权和采样权问题收到建议
检察官 Szpunar 已向欧洲联盟法院 (CJEU) 就 AI 和版权法发布了一份意见。该意见建议未经授权采样受版权保护的材料侵犯了唱片制作人的复制权。然而,CJEU 被建议不要就与大型语言模型 (LLM) 训练数据相关的具体问题作出裁决。
-
新的审计方法可遏制大型语言模型训练中的奖励黑客攻击
研究人员开发了一种名为低通预算审计(LB)的新方法,以对抗强化学习中的奖励黑客攻击,特别是在大型语言模型(LLM)领域。该技术侧重于有效分配强验证器审计的有限预算,优先考虑通过弱验证次数最少的轮次组。在LLM训练中的实验表明,LB在绝大多数运行中有效抑制了黑客攻击,在准确性和标签使用方面优于随机审计和其他纠正方法。
-
新方法优化LLM微调的效率和数据质量 · 跟踪2个来源
两篇研究论文介绍了优化大型语言模型(LLM)监督微调(SFT)的新颖方法。第一种方法“在线动态批处理”(ODB)通过将批处理形成移至准确可观察点来解决训练期间可变样本处理成本的挑战,将吞吐量提高了4.43倍。第二种方法“效用-多样性感知在线批处理选择”(UDS)侧重于在SFT期间选择有价值且多样化的数据样本,以防止过拟合和偏差放大,其性能优于现有方法并减少了训练时间。