Protein Language Models
PulseAugur coverage of Protein Language Models — every cluster mentioning Protein Language Models across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
SurfDesign框架利用表面几何学推进蛋白质设计
研究人员开发了SurfDesign，一个专注于分子表面几何学和理化性质的新蛋白质设计框架。该方法将表面的连续几何流形建模与蛋白质语言模型相结合。据报道，SurfDesign在设计新型结合蛋白和酶方面优于现有的表面条件和仅骨架方法，并且在逆向折叠任务中也表现强劲。
-
新型蛋白质语言模型增强分子动力学和设计
研究人员正在开发先进的蛋白质语言模型（pLMs），以改进分子动力学模拟和蛋白质设计。一种名为 PLaTITO 的方法整合了蛋白质语言模型嵌入，以增强可转移隐式转移算子在分子动力学中的泛化能力，在分布外蛋白质系统上表现出最先进的性能。另一个模型 HD-Prot 在混合扩散框架内使用连续结构令牌来联合建模蛋白质序列和结构，以更少的计算资源实现了具有竞争力的结果。此外，一项研究正在探索 PLMs 的内部表示，分析它们如何编码结构特征，并确定…
-
蛋白质语言模型使用专门的机制来检测序列重复
研究人员调查了蛋白质语言模型（PLMs）如何识别蛋白质序列中的重复片段。他们的发现表明，PLMs首先使用通用的位置注意力机制和生物学特异性组件（例如编码氨基酸相似性的神经元）来创建特征表示。随后，归纳头（induction heads）专注于这些重复片段中对齐的标记（tokens）以预测正确答案。这种近似重复的检测机制有效地包含了精确重复的检测，展示了PLMs如何将基于语言的模式匹配与专门的生物学知识相结合。
-
ProteinOPD框架将蛋白质设计对齐速度提升8倍
研究人员开发了ProteinOPD，这是一个用于将蛋白质语言模型（PLMs）与期望功能对齐的新框架。该方法将预训练的PLMs适配成专门的教师模型，并使用一种称为On-Policy Distillation的技术将其知识蒸馏到一个学生模型中。ProteinOPD旨在平衡多个目标，同时不牺牲模型固有的可设计性，据报道，与强化学习替代方案相比，其训练速度提高了8倍。