Generalized Additive Models
PulseAugur coverage of Generalized Additive Models — every cluster mentioning Generalized Additive Models across labs, papers, and developer communities, ranked by signal.
-
新的训练目标 $\sigma$NB 在临床决策模型上表现不一
研究人员探索了一种名为平滑净收益($\sigma$NB)的新训练目标,作为机器学习模型传统方法(如伯努利负对数似然(NLL))的替代方案,特别是在临床决策制定背景下。他们使用 Framingham 等数据集和 TabZilla 基准测试,并结合逻辑回归、GAM 和 XGBoost 等模型进行了实验,结果喜忧参半。虽然 $\sigma$NB 在 TabZilla 数据集上的逻辑回归模型中提供了净收益的适度改进,但它并未持续优于 NLL,…
-
新方法将黑箱人工智能模型转化为可审计的临床列线图
研究人员开发了一种名为 PRiSM(结构化模型中的部分响应)的新方法,可以将复杂的黑箱临床预测模型转化为易于理解的列线图。该技术捕捉了原始模型效应的形状和相互作用,从而能够进行审计和变量选择。当应用于心脏移植受者数据时,从逻辑回归、神经网络、随机森林和 XGBoost 等各种模型派生的列线图,在辨别力方面达到了非劣效性标准,并且通常保持了校准。PRiSM 方法现已作为开源 Python 包提供。
-
因果推断研究质疑预测误差作为唯一性能指标
一篇新研究论文探讨了在因果推断中使用预测误差来评估干扰函数估计器的局限性。该研究模拟了部分线性模型,比较了OLS、GAMs、XGBoost和DML-XGBoost等方法。结果表明,虽然XGBoost在非oracle方法中显示出最低的RMSE,并且DML-XGBoost提供了更好的置信区间覆盖率,但预测误差与因果偏差或置信区间覆盖质量并不总是相关。研究表明,预测误差对于评估干扰函数估计是有用的,但不应作为因果估计器性能的唯一指标。
-
新的R包neuralGAM提供可解释的深度学习模型
一个名为neuralGAM的新R包已被开发出来,以解决神经网络中的“黑箱”问题。该包实现了一个基于广义可加模型(Generalized Additive Models)的拓扑结构,允许估计每个特征对输出的贡献。由此产生的深度学习模型既准确又可解释,并且在神经网络架构方面具有灵活性。
-
为光滑加性模型引入新的节点选择方法
研究人员开发了一种新的光滑加性模型节点选择方法,这是使用B样条回归进行非参数建模的关键技术。这种新方法扩展了自适应样条(A-splines)方法,并结合了定制的Fellner-Schall方案进行参数调整。新方法旨在提供具有显著更少基元素的模型,同时实现与现有节点选择技术和P-splines相当的性能。
-
新的神经模型通过特征选择增强了可解释性和效率
研究人员开发了新的神经加性模型和基模型,它们结合了特征选择,以提高计算效率和减小模型尺寸。这些模型由 Shinichi Shirakawa 提出,通过使用神经网络作为非线性形状函数来构建广义加性模型 (GAM),提供了高度的可解释性和特征贡献的可视化。特征选择层的引入解决了之前在处理特征交互或高维数据集时遇到的计算瓶颈,使得在保持与现有 GAM 相当或更好的性能的同时,能够进行更有效的训练和减小模型尺寸。
-
新的张量分离学习模型增强了机器学习的可解释性
研究人员推出了一种新颖的回归模型——张量分离学习(TSL),旨在提高机器学习的可解释性。与依赖加性表示的现有方法不同,TSL 使用单变量函数秩-1积的和来避免强交互导致的信息丢失。该模型的可分离性确保了可视化能够忠实反映拟合的组件,并且在回归基准测试中,其性能与黑盒模型相比具有竞争力。
-
新算法利用傅里叶变换处理混合模型
研究人员开发了一种用于学习混合模型的新算法,该算法可以处理重尾分布,相比于以往依赖低阶矩的旧方法有了显著改进。这种新颖的方法利用了高效的高维稀疏傅里叶变换,并且不像高斯混合模型的算法那样,不需要簇均值之间有最小分离度。此外,另一项独立研究引入了一个回归框架,该框架结合了谱表示学习和局部可加建模,为异构数据创建了可解释的模型。