causal tracing

论文认为分离式线性探针不会提高AI可解释性

最近的一篇论文提出在RL优化过程中使用分离式线性探针，以防止模型规避可解释性工具。然而，作者认为这种方法存在缺陷，因为RL本身就是为没有精确梯度的场景设计的，将损失项移入RL并不能从根本上防止混淆。作者将此比作使用一种更慢、更不精确的优化方法来解决可以用更直接的基于梯度的方法解决的问题，认为这是一种效率低下的解决方案，并未从根本上解决模型混淆的问题。