研究人员引入了一种称为先验拟合扩散 Transformer 的新方法,用于以黑盒方式优化未知函数。该方法利用扩散模型在先验拟合网络范式下进行预训练后,进行上下文内的 Thompson 采样。该工作还开发了适用于具有非高斯特性的函数的实用非高斯先验,在全局优化基准测试中展示了优于传统高斯过程流水线的性能。 AI
影响 引入了一种新颖的黑盒优化方法,可以增强 AI 模型训练和超参数调整。
排序理由 该集群包含一篇详细介绍新函数优化方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Diffusion Transformers
- Gaussian process
- prior-fitted diffusion transformers
- Thompson sampling
- transformers
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →