regression analysis
PulseAugur coverage of regression analysis — every cluster mentioning regression analysis across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
新模型使用合成数据进行贝叶斯生存分析
研究人员推出了一种新颖的摊销贝叶斯生存分析方法——Survival In-Context (SIC)。该方法利用预先拟合的范式，在合成数据上进行预训练，从而实现高效的上下文学习，用于事件发生时间建模。SIC旨在通过在单次前向传播中近似贝叶斯后验预测推断，而无需针对特定任务进行训练，来解决医学应用中的挑战，例如数据有限和复杂的协变量交互。
-
arXiv论文指导机器学习性能指标
一篇新发布的arXiv教程论文提供了机器学习性能指标的全面指南。它详细介绍了准确率、精确率和ROC-AUC等指标如何根据类别流行度、决策阈值和聚合规则等因素得出不同结论。该论文将22个混淆矩阵指标组织成一个流行度编码图，并使用15个场景来说明分类、回归和不确定性估计中的概念，所有验证检查均通过。
-
新的CoCP方法改进了回归的自适应一致性预测
研究人员推出了一种新颖的回归任务自适应一致性预测方法CoCP。该方法通过同时参数化预测区间中心和半径，解决了异方差和偏态数据中固定区间中心导致的效率低下问题。CoCP通过对折叠残差进行平滑分位数回归来学习半径，并使用平滑区间损失来优化中心，从而纠正了中心偏差并将区间导向高密度区域。该方法通过分层一致性校准证明了其有限样本边际有效性，并在基础估计器一致的情况下实现了渐近条件覆盖和最优区间长度，在实验中显示出改进的经验条件覆盖可靠性和更窄的区间。
-
新的机器学习公平性指标侧重于局部一致性
研究人员提出了一种名为局部预测一致性（Local Predictive Consistency）的机器学习个体公平性新方法。该方法通过将每个预测与局部邻域内预测的加权平均值进行比较，侧重于节点级别的公平性，并提供可解释的公平性分数。该方法旨在比传统的成对约束更不严格，并可应用于包括二元分类、回归和生存时间预测在内的各种预测任务。该方法的有效性依赖于相似性图的构建，并提供了一种分析公平性-性能权衡的方法。
-
New framework learns topology-aware representations for TPMS metamaterials
研究人员开发了一个新的框架，用于学习力学相关三周期极小曲面（TPMS）超材料的拓扑感知表示。该方法将持久同调集成到深度最大自回归编码（DMAE）骨干网络中，以显式编码全局结构连通性，这对于力学分析和结构设计至关重要。该方法使用持久性引导掩码策略和辅助持久同调解码器来确保学习到的表示保留拓扑信息。在TPMS数据集上的评估显示，在族分类、力学性能分类和无监督性能聚类方面都有显著改进，证明了持久拓扑作为该领域有效归纳偏置的作用。
-
新研究推进机器学习和文本生成中的差分隐私
两篇新研究论文探讨了在机器学习和文本生成中实现差分隐私的高级方法。第一篇论文介绍了抽象梯度采样（AGS）算法，该算法扩展了形式化方法，为回归任务中的私有预测和私有学习提供更严格的隐私保证，性能优于全局敏感度基线。第二篇论文提出了PrivCert框架，旨在通过为陈述支持提供隐私保护的认证来解决差分私有文本生成中的证据差距，确保私有报告准确反映底层数据，并与标准DP基线相比减少了不支持的排放。
-
新理论解释机器学习模型中的“Grokking”现象
研究人员开发了一种统计理论来解释“Grokking”现象，即模型在与训练数据拟合的阶段之外学习底层信号。该理论描述了正则化几何和信号稀疏性如何影响插值附近的泛化能力，尤其是在高维回归中。在对角线性网络和Transformer上的实验证明了该理论的预测，揭示了最小范数插值中存在的统计不稳定性，其中正则化强度的小变化可能导致泛化能力显著不同，同时保持较低的训练误差。
-
第九个候选测试暴露了变异评分中被遗漏的回归
一个 5/5 的变异评分未能发现回归问题，凸显了看似冗余的测试的重要性。第九个候选测试最终揭示了这一疏忽，强调了在软件开发中全面测试策略的必要性。
-
研究人员建议不要在机器学习中使用高斯核
最近的一篇论文认为，在回归和分类等机器学习任务中不应广泛使用高斯核。作者认为，这种核（也称为平方指数核或径向基函数核）会导致条件方差不切实际地小，从而导致预测不确定性过度自信。此外，这种平滑性会导致数值病态，在实际应用中需要引入金块项等变通方法。该论文广泛建议由于这些问题而避免使用解析核。
-
作者声称AI的广泛定义模糊了具体领域
“AI”一词已成为一个过于宽泛的总称，涵盖了信号处理、回归分析和排队论等领域。这种广泛的应用模糊了所涉及的具体数学和统计技术。作者对AI的推理能力表示怀疑，尤其是在无法获得完整知识的动态环境中，并质疑近期AI成就的有效性。
-
AI效率提升而非岗位替代，构成对就业的真正威胁
围绕AI的担忧并非关于岗位替代，而是关于效率提升导致对人力需求减少。这种观点认为，AI将使工作速度大约提升40%，从而需要更少的员工。根本的担忧在于，雇佣的经济合理性将减弱，导致在工人意识到潜在影响之前就发生裁员。
-
新理论定义并衡量机器学习算法中的“遗忘”
研究人员提出了一个新的理论框架来理解和量化机器学习算法中的“遗忘”。该理论将遗忘定义为学习者预测分布的自我不一致性，导致预测信息的丢失。所提出的度量方法可应用于各种机器学习任务，包括分类、回归、生成模型和强化学习。跨领域实验表明，遗忘是深度学习中普遍存在的问题，影响学习效率。
-
PROBAST+AI 工具更新，用于评估 AI 预测模型中的偏差和适用性 · 跟踪 4 个来源
PROBAST+AI 已更新，以加强对 AI 驱动的预测模型中偏差和适用性的评估。此次更新包括 16 个专门为模型开发设计的信号问题，旨在提高这些工具的质量和可靠性，尤其是在医疗保健领域。
-
表格基础模型通过分类适应生存分析
研究人员开发了一个新颖的基于分类的框架，使表格基础模型（TFMs）能够执行生存分析。该方法将事件发生时间结果重新构建为一系列二元分类问题，通过将删失观测值视为特定时间点的缺失标签来有效处理右删失。该方法直接建模累积失效概率，比累积每箱误差的传统方法更具鲁棒性。在48个真实世界数据集上的评估表明，使用此公式的现成TFMs在多个生存指标上的平均表现优于现有的经典和深度学习基线。
-
新的OLS回归分布式草图绘制方法降低了计算成本
研究人员开发了一种用于普通最小二乘（OLS）回归的分布式草图绘制新方法。该方法涉及在多台机器上对大型数据集创建小型草图，从而允许单独构建和平均OLS估计量。该研究侧重于在分区子集上进行草图绘制，以进一步降低计算成本，并表征了平均OLS估计量的精确超额损失。结果表明，当子集协方差发散度最小时，这种损失与传统方法相当。
-
新研究发现扩散模型规避良性过拟合 · 跟踪2个来源
一项新的研究论文挑战了深度学习（尤其是在扩散模型中）泛化能力的普遍理解。该研究表明，在典型条件下，良性过拟合（一种在传统深度学习中过拟合有助于泛化的现象）在扩散模型中并不发生。研究人员发现，除非样本量随数据维度呈指数增长，否则过拟合和良好的泛化能力是互斥的，从而导致经典的U形损失曲线，而不是双下降。该论文指出了回归和分数匹配之间的关键差异，表明过拟合对分数匹配有害，并强调了时间平滑和提前停止的隐式正则化是防止扩散模型过拟合的因素。
-
新框架为等变推理提供统计保证
一篇新的研究论文介绍了一个等变表示学习框架，旨在提高回归、条件概率估计和不确定性量化中的泛化能力和样本效率。该框架基于算子和群表示理论，近似条件期望算子的谱分解。在合成和真实机器人数据集上的实证评估表明，其在回归方面能与现有等变基线相媲美或超越，同时提供校准良好的不确定性估计。
-
机器学习分类在投资组合构建中优于回归
一篇发表在arXiv上的研究论文探讨了机器学习模型在投资组合构建中的有效性，发现分类模型优于回归模型。研究表明，通过梯度提升树、随机森林和神经网络的堆叠集成，使用分类方法相比回归方法获得了显著更高的夏普比率。这种优势归因于分类在分离收益十分位数方面更强的能力，即使在考虑了基于回归的方法后，仍能保留经济上较大的阿尔法。
-
元学习框架实现选择性时间序列预测
研究人员开发了一种新颖的选择性时间序列预测框架，该框架利用元学习来提高准确性。这种方法允许模型在特别具有挑战性的数据点上弃权预测，这是一种以前在预测中未充分探索的策略。与依赖领域特定代理的现有方法不同，所提出的框架使用从近期数据特征派生的尺度不变统计量，从而能够有效地跨不同时间序列转移弃权能力。
-
新的协同进化方法增强了脉冲神经网络的性能
研究人员开发了一个用于优化脉冲神经网络（SNN）的协同进化框架，解决了其复杂搜索空间的挑战。这种新方法基于每个网络对集成性能的边际贡献来定义适应度，鼓励专业化和互补性。在分类、回归和控制任务上的评估表明，与传统的单网络进化和事后集成相比，性能有了显著提高，特别是在标准方法失败的控制任务上。