PulseAugur
中
实时 17:55:15

新的仅预测蒸馏技术可在无标签数据的情况下改进AI模型训练

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为“仅预测蒸馏”（POD）的新方法，用于在无法获得标签数据时训练AI模型。该技术使用新的、无标签的协变量来伪标签数据，然后用这些数据训练学生模型。最终的预测器是教师模型和学生模型预测的仿射组合，已被证明可以降低岭回归的预测风险，并在二元逻辑回归中优于教师模型和纯蒸馏分类器。 AI

影响 该方法可以在标签数据稀缺或不可用的情况下，实现更高效的AI模型训练。

排序理由 详细介绍一种新的机器学习技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv stat.ML 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的仅预测蒸馏技术可在无标签数据的情况下改进AI模型训练

报道来源 [1]

  1. arXiv stat.ML TIER_1 English(EN) · Hien Dang, Pratik Patil, Alessandro Rinaldo ·

    Prediction-Only Distillation in Linear and Logistic Regression

    arXiv:2607.15450v1 Announce Type: cross Abstract: Self-distillation (SD) is typically studied when the student is retrained on the teacher's original training inputs. In many practical deployments, however, the labeled training data are no longer available, and one has access onl…

相关实体

相关话题