deep mutational scanning

研究发现蛋白质语言模型中的有用信息分布在不同层

一篇新发表在arXiv上的研究论文，调查了蛋白质语言模型（PLMs）的内部工作机制，这些模型在计算生物学中越来越受欢迎。研究人员分析了13个PLMs在15个下游任务上的表现，发现这些模型最终层的嵌入（embeddings）并不总是预测任务性能最有效的方式。研究表明，与特定任务相关的信息分布在PLMs的不同层中，浅层对于包含深度突变扫描数据的蛋白质数据集更有用，而深层对于包含多样化天然蛋白质的数据集更有用。当任务涉及人工蛋白质时，性能也会显著下降。