Hypernetwork
PulseAugur coverage of Hypernetwork — every cluster mentioning Hypernetwork across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
超网络用于神经纹理压缩以实现实时解码
研究人员开发了一种使用超网络进行神经纹理压缩的新颖方法。该方法训练单个超网络来生成潜在特征以及多层感知器(MLP)解码器的权重/偏置。该技术实现了与现有神经纹理压缩器相当的质量,同时有可能实现实时解码和超分辨率功能。
-
新的差分隐私学习框架使用超网络来减少噪声影响
研究人员开发了一种新颖的差分隐私(DP)学习框架,该框架绕过了迭代参数空间优化。该方法不使用私有化梯度,而是采用在公共数据上训练的超网络,从私有数据集的扰动嵌入中生成模型参数。这种方法仅将隐私噪声注入一次到低维表示中,显著减少了其不利影响。理论分析表明,在合成设置中,其效用高于DP-SGD,并且在LoRA微调扩散模型上的实际应用与DP-SGD和其他公共数据引导方法相比,FID得分更低。
-
SHIELD框架提供强大的持续学习能力以抵御对抗性攻击
研究人员开发了SHIELD,一个用于在对抗条件下进行鲁棒持续学习的新型框架。该系统集成了区间边界传播(Interval Bound Propagation)和超网络架构,能够高效地生成特定任务的参数,而无需重放缓冲区。SHIELD还采用了Interval MixUp,一种保证认证鲁棒性和更平滑决策边界的训练策略。评估表明,在对抗强对抗性攻击的基准测试中,SHIELD的表现优于现有方法,为对抗环境中的实际持续学习带来了显著的进步。
-
研究人员开发出用于守恒律的鲁棒基础模型,利用循环视觉Transformer注入上下文
研究人员开发了一种新架构,通过整合循环视觉Transformer(Recurrent Vision Transformers)的上下文来增强通量神经算子(Flux Neural Operators)。该超网络模型提取随时间变化的解的动力学,使用循环ViT对其进行编码,然后生成上下文条件神经算子的参数。该方法允许模型在不直接了解控制方程或PDE系数的情况下求解守恒律,在为各种守恒系统(包括具有新通量的系统)提供可靠数值解的同时,保持了F…