maximum likelihood estimation
PulseAugur coverage of maximum likelihood estimation — every cluster mentioning maximum likelihood estimation across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
最新研究强调了高斯过程超参数优化中最大似然估计的脆弱性
一篇新发表在arXiv上的论文评估了在高斯过程（GPs）超参数优化中使用最大似然估计（MLE）的脆弱性。研究强调，尽管GPs常用于工程设计且通常被认为具有鲁棒性，但如果其基本假设不满足，MLE可能导致泛化能力差。该论文提出了改进GPs准确性和鲁棒性的实用解决方案，并在贝叶斯优化等下游任务中展示了其有效性，表明它们在预测准确性和不确定性量化方面可以超越表格基础模型。
-
新的DCR框架通过近似拉普拉斯伪逆来增强图学习
研究人员开发了一个名为差分凸正则化器（DCR）的新框架用于图学习。该方法通过近似拉普拉斯图的谱作用而不直接求逆，解决了计算其伪逆的挑战，因为拉普拉斯图可能密集且病态。DCR利用正则化最大似然估计和可微分的对偶引导学习方案来有效地重建原始解。已建立了稳定性和唯一不动点的理论保证，数值实验表明在各种图拓扑上，其性能优于现有的凸求解器和图过滤基线。
-
新的混合AI框架提高了无线信道估计精度
研究人员开发了一种新颖的混合框架，称为神经网络辅助CLEAN (NN-CLEAN)，以提高无线通信系统中的信道估计精度，特别是在低信噪比 (SNR) 环境下。该方法将传统方法（如CLEAN）的物理基础与深度学习的速度相结合。NN-CLEAN将多头残差网络集成到迭代CLEAN过程中，用快速的神经网络前向传播取代了计算密集型的网格搜索。仿真表明，NN-CLEAN在5 dB SNR下可实现超过96%的准确率，同时显著降低了计算复杂度，使其成…
-
机器学习工程师面试准备：CI/CD、Kafka、Kubernetes
此条目是关于机器学习工程师职位的技术面试题的请求，特别关注 CI/CD、Apache Kafka 和 Kubernetes。用户正在寻求有关直播部署面试的准备建议。
-
深度学习框架 NeuroMem-FHP 增强了分数 Hawkes 过程的参数估计能力
研究人员开发了 NeuroMem-FHP，这是一个用于估计分数 Hawkes 过程 (FHP) 参数的深度学习框架。该框架利用长短期记忆 (LSTM) 和 Transformer 神经网络，直接从到达间隔时间序列推断模型参数，绕过了计算量大的似然优化。实验表明，在合成和真实世界数据集上，Transformer 模型均优于 LSTM 和传统的最大似然估计 (MLE)，这些数据集包括 Apple Inc. 的金融交易数据和蒙哥马利县的紧急呼叫记录。
-
新框架统一了正态均值问题中的收缩和阈值估计器
研究人员开发了一个用于正态均值估计问题中近似风险最小化的新框架，并引入了一个名为 NOMAD 的估计器。该框架统一了包括 James-Stein 和 lasso 类型估计器在内的各种收缩和阈值规则，并扩展到相关观测和线性回归。NOMAD 估计器旨在最小化从观测数据派生的近似风险标准，为正则化提供了一种数据驱动的方法。
-
研究发现贝叶斯优化需要最优初始点
一篇新的arXiv论文探讨了贝叶斯优化（BO）所需的最佳初始点数量。研究表明，寻找全局最优值的总成本与初始批次大小（$n_0$）之间存在U形关系，这意味着过少或过多的初始点都会导致资源浪费。这种现象归因于BO在向内聚焦之前倾向于探索超立方体的边界。该研究提出了实际建议，包括在可用时使用多步前瞻BO，在无法调整$n_0$时使用Thompson采样，以及在可以调整时使用更大的$n_0$。
-
新研究将最大似然估计与机器学习算法中的控制变量联系起来
研究人员在机器学习的草图算法中，建立了最大似然估计（MLE）与控制变量估计器（CVE）之间的理论等价性。这种在指数族特定条件下证明的等价性表明，最优的CVE可以达到与MLE相同的渐近方差，从而为MLE提供一种不动点算法。实验结果表明，与传统的MLE求根方法相比，这种不动点方法在速度和数值稳定性方面都有所提高，尤其是在双变量正态分布的情况下。
-
新的梯度下降方案改进了 MMD 估计
研究人员引入了一种新的预条件梯度下降 (PGD) 方案，以解决最小最大均值差异 (MMD) 估计中优化问题理解不足的问题。这种新颖的方法在特定的梯度优势和投影残差条件下建立了全局收敛性，其灵感来源于 MMD 梯度流。实证结果表明，PGD 方案在各种参数估计和假设检验任务中优于标准的梯度下降。
-
新的目标化高度自适应套索方法改进了统计估计
研究人员引入了一种名为目标化高度自适应套索（Targeted HAL）的新统计方法，用于估计非路径可微函数参数，例如剂量-反应曲线。该方法利用样条基函数和LASSO步骤来逼近目标函数，旨在提高准确性和数据自适应推断。模拟表明，Targeted HAL在偏差和均方误差方面优于现有的HAL插件估计器，提供了一种灵活的方法，而无需参数假设。
-
新的风险对齐框架改进了AI模型校准
研究人员引入了风险对齐（RA），一个用于在核密度估计（KDE）中选择最优带宽以进行模型校准的新框架。最大似然估计（MLE）等标准方法在校准任务中常常表现不佳。RA旨在通过将KDE重建风险与经验风险对齐来提高可靠性，理论上可最小化校准估计偏差。实验表明，RA在各种架构和数据集上始终优于现有方法。
-
新的风险对齐框架改进深度学习模型校准
研究人员开发了一个名为风险对齐（RA）的新框架，以改进深度学习模型的校准，这对于高风险应用至关重要。RA解决了为核密度估计（KDE）选择最优核带宽的挑战，KDE是一种用于量化模型失校准的方法。与最大似然估计（MLE）等传统方法不同，RA将重构风险与经验风险对齐，以最小化校准偏差。实验表明，RA在各种模型架构和数据集上提供更可靠的校准评估方面，始终优于现有方法。
-
新的 XMSE 感知混合估计器融合了机器学习和经验贝叶斯
研究人员开发了一种新颖的 XMSE 感知混合估计器，该估计器在最大似然 (ML) 和经验贝叶斯 (EB) 收缩之间进行插值。该方法旨在改进现有的 EB 估计器，当其核与真实参数不对齐时，EB 估计器可能表现不如 ML。所提出的方法使用固定的 XMSE 来推导一个最优混合权重，确保其性能不劣于 ML 或基础 EB 估计器。基于有限样本 XMSE 近似的即插即用实现被证明是一致的，并提供了二阶最优遗憾率。
-
新攻击揭示常见 AI 排名系统的漏洞
研究人员发现基于最大似然估计 (MLE) 的排名系统（如 Bradley-Terry 模型）存在重大漏洞，这类系统常用于汇总成对比较的偏好。一项新研究提出了一种自适应子集选择攻击 (ASSA)，可以有效地找到高影响力的扰动数据。在合成和真实世界选举数据上的实验表明，即使是少数战略性选民也能在最小扰动预算之外大幅改变排名，其效果优于随机和贪婪方法。
-
新论文探索最优传输在机器学习推理中的应用
两篇新的arXiv论文探讨了机器学习中的高级推理技术。其中一篇论文对无似然推理方法进行了基准测试，评估了它们在处理重尾和离散数据时的性能。另一篇论文则将最大似然法与最优传输相结合，用于随机块模型中的高效推理和模型选择，提出了一种用于同时恢复参数和选择聚类数量的正则化方法。
-
研究人员详述了依赖高斯混合模型中社群侦测的精确恢复
本文研究了高斯混合模型中社群侦测的精确恢复问题。研究聚焦于具有依赖性和异质性高斯噪声的场景，其中噪声协方差矩阵可以是不可对角化的，甚至是奇异的。作者推导出了最大似然估计器精确恢复的充分条件，该条件受“\Sigma-白化分离”度量和局部比较不等式的影响。
-
新的“更嘈杂”NCE方法改进了AI模型的密度比估计
研究人员开发了一种名为“更嘈杂”NCE的改进噪声对比估计（NCE）技术，该技术解决了复杂数据集密度比估计中的局限性。通过人为增加噪声幅度，该方法使NCE梯度更接近最大似然估计（MLE），从而实现更快的收敛和更好的性能。该方法在图像建模、异常检测和离线优化方面取得了成功，在ImageNet64x64等数据集上取得了最先进的成果，并显著减少了训练迭代次数。