PulseAugur
实时 09:29:54
实体 ParityTransformer

ParityTransformer

PulseAugur coverage of ParityTransformer — every cluster mentioning ParityTransformer across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_160737 ·

    新的ParityTransformer架构实现了可扩展、可解释的AI模型

    研究人员开发了ParityTransformer,这是一种新颖的GPT-2规模架构,旨在增强可解释性。该模型在每一层使用深度奇偶校验瓶颈(DPB),它用无参数的代数字典取代了昂贵的学习过完备基。这种方法显著降低了可解释瓶颈相关的内存和计算成本,使得逐层可解释性在大规模应用中更加实用。实证表明,ParityTransformers在探测任务上的性能与事后稀疏自编码器相当,同时在特征吸收和因果干预方面提供了更优的结果,这表明朝着训练内在可…