Isotonic regression
PulseAugur coverage of Isotonic regression — every cluster mentioning Isotonic regression across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
新的校准DML方法增强了处理效应的统计推断
研究人员开发了一种名为校准去偏机器学习(DML)的新方法,以提高双重稳健估计量的准确性。这些估计量通常用于分析处理效应和回归函数。新技术解决了不匹配问题,即一致性只需要一个干扰函数准确,而渐近正态性则需要两个快速收敛的函数。通过结合等渗回归进行校准,该方法即使一个干扰估计量收敛缓慢或不一致,只要满足部分正交条件,也能确保渐近正态性。该方法还包括一个用于置信区间的引导辅助方法,并在基准数据集上显示出偏倚减少和覆盖率提高。
-
大语言模型不确定性量化研究探索校准以获得可靠答案
两篇研究论文探讨了提高大语言模型(LLM)生成答案可靠性的方法,特别是在问答任务中。第一篇论文介绍了 A-CRC-QA,这是一个事后校准框架,旨在通过将选择条件误差控制重新表述为线性期望约束来控制被接受答案中的错误率。第二篇论文实证研究了如何从词元概率中推导出数学问答的校准置信度估计,比较了单通道和多通道估计器,并评估了 Platt 缩放和等渗回归等事后校准方法。
-
新方法映射嵌入模型相似性空间,以改进RAG
一篇新的研究论文介绍了一种名为合成查询探测(Synthetic Query Probing)的方法,用于分析和映射不同嵌入模型间的相似性分数空间。该技术解决了由于不同模型具有不同的几何特性,导致分数无法直接比较的挑战。通过从文档生成查询,该方法可以对跨模型相似性进行大规模、无参考的分析。在SciFact数据集和专有语料库上的实验表明,虽然模型在排名上总体一致,但它们的绝对分数可能会失真。研究表明,学习到的映射,特别是等渗回归(isot…
-
新分析提高了对用于校准的等渗回归的理解
研究人员开发了一种新方法来分析二元等渗回归,这是一种用于估计单调函数和校准概率预测器的技术。该研究为该方法应用于二元样本时的自由度提供了精确的有限样本特征,通过 $\frac{3}{(4\pi^2)^{1/3}} n^{2/3}$ 的前导项改进了现有界限。该分析还首次为等渗回归的预期校准误差 (ECE) 提供了非平凡的无分布保证,提供了一个无模型且无分布的界限。
-
新框架FinAbstain通过不确定性校准改进LLM金融预测
研究人员开发了FinAbstain,一个旨在提高大型语言模型金融预测可靠性的框架。该系统使用多模态检索增强生成(RAG)仅在置信度高时选择性地预测结果,否则则弃权。它结合了等渗回归和共形预测等多种方法来校准不确定性,旨在减少金融预测中的错误和回撤。
-
新研究详细介绍了分类器校准方法的分层鲁棒性
一篇新研究论文分析了概率分类器后验校准方法的鲁棒性,特别比较了温度缩放(TEMP)和等渗回归(ISO)。研究发现,在数据集内的不同操作条件下,性能差异显著,表明聚合性能指标可能具有误导性。TEMP 通常能保持更接近于一的校准斜率,并显示出更一致的 Brier 分数差异,而 ISO 则表现出符号反转和更宽的斜率变化。
-
新的SLC方法纠正知识追踪模型中的逐项偏差
研究人员开发了一种名为状态空间对数几率校正(SLC)的新方法,以解决已部署知识追踪模型中的逐项偏差问题。这种偏差源于架构限制和项目属性的变化,会降低预测质量。SLC通过以项目身份为条件来提高区分能力(AUC)和负对数似然(NLL),尤其有利于稀疏项目。该方法将二元观测转换为高斯伪观测,通过卡尔曼平滑器应用经验贝叶斯收缩,并拟合偏移Platt链接,在教育领域之外也显示出潜力。
-
AI模型在血压估算可靠性方面表现出改进
研究人员调查了深度学习模型在光电容积脉搏波描记法(PPG)信号血压估算中不确定性量化的可靠性。研究发现,与蒙特卡洛丢弃法(MCD)相比,深度集成(DE)在领域迁移下提供了更大的鲁棒性。重新校准的高斯负对数似然(GNLL)方法,特别是结合DE和共形预测或温度缩放,为收缩压和舒张压提供了最佳的不确定性校准。