Ignition Index

新的点燃指数指标衡量语言模型中的全局工作空间动态

研究人员引入了点燃指数（I），这是一个旨在量化语言模型中全局工作空间动态的新指标。该标量指标通过分析输入信号强度响应的每层准确性转换，来操作化全局工作空间理论（GWT）的预测。在各种Transformer模型和SSM中，点燃指数在区分真正的语言结构和虚假的探测能力方面表现出9.6倍的选择性。研究结果表明，前馈Transformer的点燃指数通常高于SSM，而像Huginn-3.5B这样的循环架构沿其迭代轴与沿其深度轴相比，表现出不同的点燃模式。