实体
Soham Gadgil
Soham Gadgil
PulseAugur coverage of Soham Gadgil — every cluster mentioning Soham Gadgil across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的LLM对齐框架提供自适应和指令驱动的控制 · 跟踪2个来源
两篇新的研究论文提出了改进大型语言模型（LLM）对齐的新颖方法。第一篇“Where to Steer”（W2S）介绍了一个根据输入自适应选择干预层的框架，其性能优于固定层基线。第二篇ECLIPTICA提出了一个通过自然语言指令实现运行时可控对齐的系统，在ECLIPTICA基准测试上实现了高指令对齐效率。
-
新研究增强了稀疏自编码器的可解释性和鲁棒性
研究人员正在探索新方法来提高稀疏自编码器（SAE）的可解释性和鲁棒性。一种名为GRILL的方法旨在通过在对抗性鲁棒性评估期间恢复退化的梯度信号来揭示自编码器的隐藏漏洞。其他工作侧重于分析稀疏性和叠加对SAE损失的影响，引入可训练的有理函数作为编码器激活以增强灵活性，并提出余弦评分作为归一化表示上字典学习的默认方法。此外，研究正在调查SAE集成以改善重建误差和稳定性，并探索权重正则化技术以增加跨种子特征的一致性和可控性。