regression analysis
PulseAugur coverage of regression analysis — every cluster mentioning regression analysis across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新理论定义并衡量机器学习算法中的“遗忘”
研究人员提出了一个新的理论框架来理解和量化机器学习算法中的“遗忘”。该理论将遗忘定义为学习者预测分布的自我不一致性,导致预测信息的丢失。所提出的度量方法可应用于各种机器学习任务,包括分类、回归、生成模型和强化学习。跨领域实验表明,遗忘是深度学习中普遍存在的问题,影响学习效率。
-
PROBAST+AI 工具更新,用于评估 AI 预测模型中的偏差和适用性 · 跟踪 4 个来源
PROBAST+AI 已更新,以加强对 AI 驱动的预测模型中偏差和适用性的评估。此次更新包括 16 个专门为模型开发设计的信号问题,旨在提高这些工具的质量和可靠性,尤其是在医疗保健领域。
-
表格基础模型通过分类适应生存分析
研究人员开发了一个新颖的基于分类的框架,使表格基础模型(TFMs)能够执行生存分析。该方法将事件发生时间结果重新构建为一系列二元分类问题,通过将删失观测值视为特定时间点的缺失标签来有效处理右删失。该方法直接建模累积失效概率,比累积每箱误差的传统方法更具鲁棒性。在48个真实世界数据集上的评估表明,使用此公式的现成TFMs在多个生存指标上的平均表现优于现有的经典和深度学习基线。
-
新的OLS回归分布式草图绘制方法降低了计算成本
研究人员开发了一种用于普通最小二乘(OLS)回归的分布式草图绘制新方法。该方法涉及在多台机器上对大型数据集创建小型草图,从而允许单独构建和平均OLS估计量。该研究侧重于在分区子集上进行草图绘制,以进一步降低计算成本,并表征了平均OLS估计量的精确超额损失。结果表明,当子集协方差发散度最小时,这种损失与传统方法相当。
-
新研究发现扩散模型规避良性过拟合 · 跟踪2个来源
一项新的研究论文挑战了深度学习(尤其是在扩散模型中)泛化能力的普遍理解。该研究表明,在典型条件下,良性过拟合(一种在传统深度学习中过拟合有助于泛化的现象)在扩散模型中并不发生。研究人员发现,除非样本量随数据维度呈指数增长,否则过拟合和良好的泛化能力是互斥的,从而导致经典的U形损失曲线,而不是双下降。该论文指出了回归和分数匹配之间的关键差异,表明过拟合对分数匹配有害,并强调了时间平滑和提前停止的隐式正则化是防止扩散模型过拟合的因素。
-
新框架为等变推理提供统计保证
一篇新的研究论文介绍了一个等变表示学习框架,旨在提高回归、条件概率估计和不确定性量化中的泛化能力和样本效率。该框架基于算子和群表示理论,近似条件期望算子的谱分解。在合成和真实机器人数据集上的实证评估表明,其在回归方面能与现有等变基线相媲美或超越,同时提供校准良好的不确定性估计。
-
机器学习分类在投资组合构建中优于回归
一篇发表在arXiv上的研究论文探讨了机器学习模型在投资组合构建中的有效性,发现分类模型优于回归模型。研究表明,通过梯度提升树、随机森林和神经网络的堆叠集成,使用分类方法相比回归方法获得了显著更高的夏普比率。这种优势归因于分类在分离收益十分位数方面更强的能力,即使在考虑了基于回归的方法后,仍能保留经济上较大的阿尔法。
-
元学习框架实现选择性时间序列预测
研究人员开发了一种新颖的选择性时间序列预测框架,该框架利用元学习来提高准确性。这种方法允许模型在特别具有挑战性的数据点上弃权预测,这是一种以前在预测中未充分探索的策略。与依赖领域特定代理的现有方法不同,所提出的框架使用从近期数据特征派生的尺度不变统计量,从而能够有效地跨不同时间序列转移弃权能力。
-
新的协同进化方法增强了脉冲神经网络的性能
研究人员开发了一个用于优化脉冲神经网络(SNN)的协同进化框架,解决了其复杂搜索空间的挑战。这种新方法基于每个网络对集成性能的边际贡献来定义适应度,鼓励专业化和互补性。在分类、回归和控制任务上的评估表明,与传统的单网络进化和事后集成相比,性能有了显著提高,特别是在标准方法失败的控制任务上。
-
CLARITree算法提升回归树的效率和准确性
研究人员开发了CLARITree,这是一种新颖的算法,旨在比现有方法更高效、更准确地构建可解释的分段线性回归树。这种新方法结合了前瞻搜索策略和Gramian矩阵的Cholesky更新,在计算速度、预测能力和模型稀疏性之间取得了良好的平衡。与当前回归分析中的最先进技术相比,CLARITree展示了显著的可扩展性改进。
-
新方法改进了具有潜在狄利克雷协变量的回归推断
研究人员开发了一种新的基于矩的回归分析推断方法,该方法利用潜在狄利克雷协变量。该方法解决了使用主题模型输出来作为回归输入时出现的推断挑战,特别是主题估计中的不确定性传播。该方法通过直接识别回归系数来纠正这些问题,而无需估计文档级主题份额,并且还通过算子交换性识别狄利克雷分布的未知总浓度参数。