PulseAugur
实时 15:44:54

Transformer 模仿贝叶斯教师,实现高效 ATE 估计

研究人员开发了一种新颖的方法,利用 transformer 模型来提高估计平均处理效应 (ATE) 的自适应实验的效率。这些“贝叶斯上下文内实验者”经过训练,可以模仿贝叶斯后验 Neyman 教师,该教师利用实验历史来更新对潜在结果的信念并分配处理概率。采用基于注意力机制的充分统计量和投影梯度下降的 transformer 架构,有效地模仿了这种贝叶斯更新过程。为了处理结果平滑度的变化,采用了混合专家 transformer,其中门充当平滑度类别的分层后验,以选择最有效的专家。实验表明,该方法能够准确模仿教师,有效调整分配,并与现有基线相比提高了 ATE 的精度。 AI

影响 这项研究可能导致依赖统计分析的领域采用更准确、更高效的实验设计,从而可能改善医学和社会科学等领域的决策。

排序理由 该集群包含一篇学术论文,详细介绍了使用 AI 模型进行统计估计的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Transformer 模仿贝叶斯教师,实现高效 ATE 估计

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Jiachun Li, David Simchi-Levi ·

    Transformers as Bayesian In-Context Experimenters: Smoothness-Adaptive Efficient ATE Estimation

    arXiv:2606.31184v1 Announce Type: cross Abstract: Adaptive experiments for average treatment effects (ATE) require randomized allocations balancing valid inference with statistical efficiency. The oracle design is a covariate-dependent Neyman rule governed by unknown arm-conditio…