实体
production logs
production logs
PulseAugur coverage of production logs — every cluster mentioning production logs across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
从生产日志构建 LLM 微调数据集
本文讨论了为大型语言模型从生产日志构建有效微调数据集的关键过程。文章强调原始日志并非数据集，并着重指出了选择高信号示例的重要性，例如用户编辑、验证器失败或路由到更昂贵模型的请求。作者还提供了数据清理技术的建议，推荐使用代理进行 redaction、使用 MinHash 进行去重、限制每个来源的贡献，以及过滤截断的输出。最后，文章警告了训练集和测试集之间的时间和近乎重复的泄露问题，建议在拆分前进行去重，并使用基于时间的拆分来确保准确评估。
-
研究发现，在日志上进行离线强化学习训练可能具有欺骗性
使用生产日志训练AI模型可能具有误导性，正如最近对离线强化学习（RL）的探索所揭示的那样。研究发现，仅依赖日志数据可能会导致模型在表面上表现良好，但在实际应用中却失败。这凸显了除了简单的奖励信号之外，还需要更强大的评估指标来确保模型的可靠性。