Huber loss function
PulseAugur coverage of Huber loss function — every cluster mentioning Huber loss function across labs, papers, and developer communities, ranked by signal.
-
XGBoost增强以提高预测和鲁棒性 · 2篇论文
两篇新研究论文提出了对XGBoost算法的增强，以改进回归和预测。第一篇论文介绍了QXGB，一个基于分位数的梯度提升框架，它使用卷积平滑损失来更好地估计条件分位数并表征极端结果，并在PM2.5预测任务中得到证明。第二篇论文通过探索替代损失函数来解决XGBoost对异常值的鲁棒性问题，提出了MM-XGBoost作为一种平衡鲁棒性和预测准确性的两步程序。
-
损失函数详解：MSE、MAE、Huber 和交叉熵
本文解释了损失函数在机器学习中的双重作用：量化误差和通过其导数指导模型训练。文章详细介绍了均方误差（MSE）如何收敛到均值，以及平均绝对误差（MAE）如何收敛到中位数，并强调了 MSE 对异常值的敏感性。Huber 损失被提出作为一种折衷方案，在接近零误差时表现为二次方行为，在较大误差时表现为线性行为，以平衡异常值的影响和训练稳定性。对于分类任务，文章讨论了交叉熵损失，展示了其导数如何简化为预测概率与目标之间的差值，这种形式被用于训练语言模型。
-
机器学习增强土壤分析以量化碳和氮
研究人员开发了一种利用近红外（NIR）光谱进行机器学习的方法，以量化新成土和砖红壤的碳和氮含量。该研究评估了各种预处理技术，其中Savitzky-Golay滤波器和鲁棒的离群值去除方法被证明最有效。集成学习模型，包括偏最小二乘法（PLS）、支持向量回归（SVR）和Ridge回归，实现了大于2.0的RPD且过拟合率低，展示了快速土壤分析以支持可持续农业的潜力。
-
新的损失函数增强了机器学习模型对离群值的鲁棒性
研究人员开发了新的损失函数和回归模型，旨在提高机器学习数据集对离群值的鲁棒性。所提出的方法根据离群值敏感性调节学习率，重点关注比现有方法（如 Huber 和 log-cosh 损失）更接近绝对误差的替代损失函数。该论文介绍了平方根损失 (SRL) 和平滑平均绝对误差 (SMAE) 作为更优的替代方案，通过在各种基准测试上的比较证明了它们的有效性，并提出了针对 GPU 优化的向量化参数更新公式的新型鲁棒线性回归模型。
-
新型扩散模型提升结构监测数据质量评估能力
研究人员开发了一种使用条件扩散模型评估结构监测数据质量的新方法。该方法结合了时间上下文，并使用 Huber 损失函数来提高对离群值的鲁棒性。该模型为每个数据点分配离群概率，并计算全局质量得分，在实际案例研究中显示出比现有方法更高的准确性。