Input-convex neural networks
PulseAugur coverage of Input-convex neural networks — every cluster mentioning Input-convex neural networks across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
输入凸神经网络在优化方面优于前馈神经网络
研究人员引入了输入凸神经网络（ICNNs）作为传统前馈神经网络（FNNs）在数学优化问题中的更优替代方案。ICNNs 因其凸结构提供了计算优势，能够实现更紧密的线性规划松弛，并可能消除积分间隙。虽然具有 ReLU 激活函数的前馈神经网络可以重新表述为混合整数规划问题，但 ICNNs 通过上图表示允许进行基于 LP 的重新表述。在人道主义粮食援助、油井选址和葡萄酒调配等领域的案例研究表明，ICNNs 在匹配 FNN 准确性的同时，提高了…
-
具有标量乘法门的Tropical电路已得到分析 · 已追踪2个来源
研究人员引入了具有标量乘法门的Tropical电路，该电路利用诸如最大值、加法以及正常数乘法等运算。该研究为计算最大权重有向生成树和最大权重二分图完美匹配的这些电路建立了指数级规模下界。这项工作还展示了单调和非单调maxout神经网络之间的指数级规模差异，这些神经网络是ReLU网络的扩展，突出了输入凸神经网络为了表示相同函数可能需要比其无约束对应物显著更大的规模。
-
AI模型学习力学和热力学中的本构律
研究人员开发了新颖的物理信息神经网络框架，用于发现力学中的本构模型。一种方法通过将各向异性屈服函数表示为凸神经网络来识别它们，并使用力平衡损失进行训练，并通过基准研究进行验证。另一个框架通过学习内部能量和耗散势来解决完全耦合的热力学问题，使用输入凸神经网络，确保热力学可容性，并在合成数据和实验数据上展示了准确性。
-
新的“提升”方法增强了输入凸神经网络的训练
研究人员为输入凸神经网络（ICNN）引入了一种名为“提升”的新型训练技术，ICNN 对于密度估计和贝叶斯推断等任务至关重要。传统方法在处理层间权重的非负约束时遇到困难，导致训练停滞。提出的“提升”方法使用一个无约束的超网络来生成这些权重，引入了随机性，从而平滑了损失景观并实现了更深的收敛。该方法在图像风格潜在变量和高维表格数据等各种基准测试中，表现优于现有方法。