Snigdha Chandan Khilar
PulseAugur coverage of Snigdha Chandan Khilar — every cluster mentioning Snigdha Chandan Khilar across labs, papers, and developer communities, ranked by signal.
-
新的YB混合器层利用可积系统实现稳定的序列处理
研究人员介绍了一种新颖的序列令牌混合层YB Mixer，该层受到可积系统和广义Yang-Baxter方程的启发。该层利用自由费米子结构和Ising交换代数来确保计算稳定性，并创建一个精确保持范数的正交映射。YB Mixer的设计允许无序推理，可适应可变预算，并利用谱循环生成器来推广到更长的序列，从而形成一个稳定且数学上健壮的序列处理架构。
-
新的神经网络层将高规范理论中的规范不变信号硬连接
研究人员引入了一种称为调整后的杯积神经网络层的新型神经网络基元，旨在纳入高规范理论中的杯积。该层硬连接了一个调整项，这是规范不变信号的唯一来源。理论结果表明，在闭合循环上，输出完全取决于该调整系数；将其设置为零会消除输出，而与其它参数无关。该论文证明了该可观测量是一个非零二次型，并且在一次和两次规范变换下精确不变。
-
论文详述AI模型窃取的几何学限制
一篇新论文探讨了机器学习模型的几何特性，以理解模型窃取技术。该研究详细说明了完美复制Transformer网络最后一层所需的精确条件。它还为反向工程隐藏层设定了明确的限制，证明仅凭输出分析无法完全重构。该研究有效地划定了可从机器学习模型中窃取和不可窃取内容的界限。
-
新研究探索用于AI模型的先进压缩技术
研究人员正在探索压缩大型模型和数据集以提高效率的新颖方法。论文讨论了数据集剪枝和蒸馏的统一、图像生成的自举标记化以及用于LLM和VLM的激活感知低秩压缩。其他工作侧重于通用三潜在序列模型、不完美压缩下的预测的理论方面，以及LLM压缩的架构和量化选择的联合优化。