Aliyas Ahmad Misri

研究：分析了决策编码器使用 LLM 标记数据的效率

一篇新的研究论文探讨了像 Laya 这样的决策编码器的效率，它们使用 LLM 生成的标签进行训练。研究发现，Laya（一个微调的 ModernBERT-large 模型）随着训练数据的增加，准确性显著提高，在使用 50% 的可用行时达到了 84.8%。研究还调查了标签噪声的影响，指出虽然对称噪声的影响适中，但易混淆对噪声会显著降低性能。最终，Laya 的表现优于 TF-IDF 分类器，尤其是在训练数据有限的情况下。