实体
Transformer-based networks
Transformer-based networks
PulseAugur coverage of Transformer-based networks — every cluster mentioning Transformer-based networks across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的GDBR攻击通过部分加密破坏联邦学习中的隐私
研究人员开发了一种名为GDBR的新攻击，可以从使用部分梯度加密的联邦学习系统中恢复私有标签。该攻击利用了神经网络架构中的一个漏洞，表明仅加密输出层不足以保护敏感数据。GDBR可用于数据重构和成员推理等下游攻击，挑战了部分加密提供足够隐私的假设。
-
新方法加速光子AI加速器的设计
研究人员开发了一种新的光子Transformer加速器（PTA）设计方法DxPTA。该方法利用光数据流指导硬件和软件协同设计，解决了先前未考虑应用约束的手动方法的局限性。DxPTA显著缩短了设计时间，并为各种Transformer模型找到了合适的PTA架构，在面积、功耗、能效和延迟方面取得了显著改进。
-
Sakana AI 的 DiffusionBlocks 通过独立训练网络块来减少训练内存
Sakana AI 推出了 DiffusionBlocks，一个用于更高效地训练神经网络的新颖框架。该方法将网络划分为多个块，允许每个块独立训练。通过减少同时处理的层数，DiffusionBlocks 在不牺牲各种架构性能的情况下，显著降低了训练期间的内存需求。该方法利用了残差网络和扩散模型之间的联系，将残差连接视为离散的去噪步骤。