实体 Poincaré Geometry

Poincaré Geometry

PulseAugur coverage of Poincaré Geometry — every cluster mentioning Poincaré Geometry across labs, papers, and developer communities, ranked by signal.

Show in brief

总计 · 30天

90 天内 1

发布 · 30天

90 天内 0

论文 · 30天

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_195168 · Aug 11 · 18:37

HyperSAE 使用庞加莱几何来提升稀疏自编码器性能

一个名为 HyperSAE 的新 PyTorch 库已被开发出来，通过采用庞加莱双曲几何来提高稀疏自编码器 (SAE) 的效率。这种方法解决了标准 SAE 的局限性，标准 SAE 使用欧几里得空间，并且可能遭受特征冲突和死隐变量的问题，尤其是在字典大小很大的情况下。HyperSAE 在训练期间将字典权重投影到庞加莱球中，对概念进行分层组织，以减少重建误差和死隐变量。在 Gemma-2-2B 上的基准测试显示，平均平方误差降低了 9.8…

HyperSAE 使用庞加莱几何来提升稀疏自编码器性能