C*-RASP

新框架C*-RASP分析Transformer的规划能力

研究人员开发了C*-RASP，这是C-RASP框架的一个扩展，用于分析仅解码器Transformer模型在AI规划任务中的能力。这个新框架旨在为Transformer处理日益增长的序列长度和词汇量（规划问题中的常见挑战）提供理论保证。该研究确定了Transformer可以被证明学会验证长计划的特定经典规划领域，突出了影响可学习的长度泛化解决方案的结构属性，并通过实证实验支持了这些理论发现。