Ising model
PulseAugur coverage of Ising model — every cluster mentioning Ising model across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新的注意力机制VIA增强了AI在科学任务中的应用
研究人员推出了一种名为变分伊辛注意力(VIA)的新型注意力机制,专为科学任务设计。与标准的softmax注意力不同,VIA整合了一个相互作用的伊辛模型,以捕捉实体之间的结构化耦合,这对于科学问题至关重要。在逆合成反应中心预测上的实验表明,VIA通过变分平均场推断从成对耦合中学习注意力模式,显著优于传统的注意力方法。这种方法表明,与通用效率相比,与领域特定结构对齐的定制化注意力对于科学应用更有效。
-
序列设置中具有干扰的新因果推断方法
研究人员开发了一种用于处理干扰和潜在混淆的序列设置因果推断的新方法。该方法利用伊辛模型来捕捉单元结果随时间变化的依赖关系,并纳入了处理效应和潜在混淆因素。提出了一种计算效率高的最大伪似然估计(MPLE)方法用于参数学习,并具有非渐近一致性的理论保证。通过合成实验和关于美国县市 COVID-19 疫苗接种率和死亡率的真实案例研究,证明了该方法的有效性。
-
Autoencoders 学习到 Ising 模型动力学:识别出两种模式
研究人员调查了自动编码器在 Ising 模型数据上训练时的学习动力学。Ising 模型常用于研究磁性。他们识别出与模型超参数相关的两种不同的动力学模式:一种由磁化主导,另一种由能量表示主导。研究表明,训练过快的深度模型可能会在达到这些模式之前陷入停滞。通过分析预测误差和训练轨迹,研究人员建立了学习的动力学视角,将其视为由训练数据和优化器的波动驱动的过程。
-
新算法在局部可采样图模型下学习常数深度电路
研究人员开发了一种新的算法,用于在可以局部采样的图模型下学习常数深度电路。这项工作扩展了 Chandrasekaran、Gaitonde、Moitra 和 Vasilyan(arXiv 2026)之前的发现,那些发现仅限于具有强大空间混合和多项式增长的模型。新方法利用了 Gibbs 分布的一种新颖的低度近似,通过模拟和截断 Glauber 动力学来实现。这种方法使得在各种有界度图上学习硬核模型和伊辛模型等系统成为可能,即使在接近其采样…
-
新研究探索神经网络和迁移学习在伊辛模型中的应用 · 跟踪3个来源
两篇新研究论文探讨了神经网络和迁移学习在处理高维伊辛模型中的应用。第一篇论文研究了各种神经网络架构的分布外性能,发现基于Transformer的模型和卷积神经网络采用了不同的统计策略,这些策略可能导致表观鲁棒性,但并非真正的物理规则学习。第二篇论文介绍了Trans-Ising,一种旨在通过有效利用辅助数据集来改进伊辛模型估计的迁移学习方法,与仅使用目标数据集的方法相比,其估计误差更低。
-
新算法实现热力学人工智能模型的可扩展训练
研究人员开发了一种新的基于反向传播的算法,用于在Ising机硬件上训练用于热力学推理的深度卷积网络。该方法实现了低功耗AI推理设备的可扩展训练,在CIFAR-10和CIFAR-100等图像分类任务上达到了高精度。该工作还引入了数学理论来关联推理成本与准确性,并探索了最优推理计划,这对未来热力学AI的硬件开发具有启示意义。
-
新工具利用Ising模型合成概率处理器以实现优化
研究人员开发了一种新工具,旨在合成和模拟利用Ising模型解决复杂组合优化问题的概率处理器。该工具可根据问题的具体情况自动生成Ising哈密顿量并确定所需的概率比特(p-bits)数量。它还采用一种自适应策略,从包括Gibbs采样、模拟退火、模拟量子退火和基于集群的方法在内的选项中选择最优更新算法。初步实验表明,这种灵活的框架提供了改进的收敛性,并支持未来硬件实现的开发。
-
热力学硬件大幅降低药物开发优化的能耗
研究人员开发了一种使用热力学硬件进行药物开发密码子优化的方法,该硬件利用热涨落进行计算。这种方法应用于 SARS-CoV-2 刺突蛋白,在优化质量上与现有方法相当,但与 GPU 相比,估计能节省六个数量级的能源。这项包含开源代码的研究标志着首次将具体的药物应用映射到这种新型硬件上。
-
基底旋转影响神经量子态性能
一篇新的arXiv论文探讨了基底旋转如何影响神经量子态(NQS)的性能。研究人员使用伊辛模型证明,这些旋转会改变优化景观,可能导致鞍点和高曲率区域的出现。这种几何位移会导致低能量误差与不准确的波函数结构共存,表明即使目标状态可表示,优化失败也可能持续存在。
-
AI框架利用注意力机制识别物理对称性
研究人员开发了一个新颖的优化框架,该框架利用具有自注意力机制的Set-Transformer架构来识别物理模型中的对称性。这种基于机器学习的方法对Pauli-Strings之间的相关性进行编码,以提出候选对称性,然后使用定制的基于对易的客观函数进行优化。该方法在Ising模型和Toric code等物理哈密顿量上表现出高成功率,优于现有策略,并在随机Pauli哈密顿量的计算资源估算方面具有优势。
-
AI研究探索物理和代数以提高神经网络效率
两篇新研究论文探讨了将物理先验和代数洞察力融入神经网络,以提高其效率和性能。第一篇论文介绍了利用概率先验的变分自回归网络,减少了像伊辛模型这样的离散自旋模型的训练负担。第二篇论文提出了一种通过将群的正则表示作为归纳偏置来近似等变网络的无参数方法,其性能与专用模型相当或更优。
-
AI模型学会反转重整化群以进行物理模拟
研究人员开发了最小的神经网络,能够反转二维Ising模型中的重整化群粗粒化过程。这些网络能够概率性地重建尺度不变分布,并以少至三个可训练参数生成临界构型。模型成功地重现了可观测量值的标度行为,并捕获了重整化群变换的非平凡特征值,这表明简单的局部规则可以编码临界现象的普适性。
-
使用Transformer对二维自旋系统进行采样
研究人员开发了一种新颖的基于Transformer的方法来对二维自旋系统进行采样,解决了Transformer在该领域常见的效率低下问题。他们的方法在每一步生成一组自旋,并利用近似概率来提高效率。该技术可以对更大的系统进行采样,例如 $180 imes 180$ 的Ising模型,并且与以前最先进的神经网络采样器相比,显示出更大的有效样本量。