Manifold Steering

Manifold steering reveals geometry's role in neural network representation and behavior

研究人员开发了一种名为流形转向的新技术，以理解神经网络表示与其最终行为之间的关系。该方法涉及将几何流形拟合到激活空间和输出分布。通过沿着尊重激活空间几何的路径进行干预，研究人员发现这会导致比传统线性转向方法更自然、更可预测的行为。