EyeMulator

新的EyeMulator方法通过模仿人类视觉注意力来增强代码语言模型

研究人员开发了EyeMulator，这是一种旨在提高代码语言模型（CodeLLMs）性能的新颖方法。该技术将人类视觉注意力的先验知识注入微调过程，而无需对模型进行架构更改。通过将眼动追踪数据提炼为语义显著性和注视转移信息，EyeMulator重新加权了token级别的训练损失，从而在各种CodeLLM骨干模型和任务中提高了性能，尤其是在结构保持的代码补全和翻译方面。