knight fork

机制可解释性探测国际象棋 AI Maia 3 的马捉双战术

一项机制可解释性项目正在研究 Maia 3 的内部工作原理，Maia 3 是一个旨在模仿人类下棋的 Transformer 国际象棋引擎。初步研究结果表明，在第五个 Transformer 块的注意力层之后，该网络对马捉双战术的表示变得可解码。这项研究旨在理解特定技能如何在神经网络中编码，并可能在未来应用于认知神经科学和 AI 安全领域。