Stein's unbiased risk estimate
PulseAugur coverage of Stein's unbiased risk estimate — every cluster mentioning Stein's unbiased risk estimate across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究推进Stein无偏风险估计在经验贝叶斯和生成模型中的应用
一篇新论文将Stein无偏风险估计(SURE)引入,作为经验贝叶斯问题(尤其是在生成模型中)的非参数最大似然估计(NPMLE)的有力替代方案。该研究表明,在具有同方差噪声的经典经验贝叶斯设置中,SURE可以实现接近参数收敛率的遗憾值。作者们还展示了SURE在模型误设情况下快速收敛到预言家去噪器的能力,并提出了异方差和侧信息的可行实现方法,包括在经济流动性估计中的应用。实证结果表明,在模型误设时,SURE训练优于NPMLE。
-
新的去噪感知反演方法揭示了噪声文本嵌入中的隐私风险
研究人员开发了一种名为去噪感知反演(DAEI)的新方法,以解决通过添加高斯噪声保护的文本嵌入中的隐私风险。由于“双重噪声陷阱”,标准的攻击方法在处理这些扰动嵌入时面临困难。DAEI结合了残差去噪自编码器和生成文本反演,对去噪器进行无监督训练,仅凭噪声观测即可重建原始文本。实验表明,DAEI显著提高了重建质量,BLEU分数相对提高了154%,F1和ROUGE-L也取得了显著的提升,挑战了简单加噪足以保护隐私的假设。
-
新研究探讨LLM在因果发现中的可靠性及新统计方法
研究人员正在探索新的方法,利用大型语言模型(LLMs)和统计技术来评估和改进因果发现。一项研究发现,LLMs 预测的因果图通常过于密集,且过度自信,这表明它们更适合作为软因果先验的来源,而不是因果结构的直接证据。另一篇论文介绍了一种非迭代估计器 SURE-Ridge,用于线性高斯 SEM,该估计器在样本受限和计算受限的情况下表现良好。此外,一种新方法使用变分推理来联合发现潜在集群和因果结构,而另一种方法提出了一种名为 Leave-On…