Nan Huang

EvoLen 分词器利用进化数据构建 DNA 语言模型

研究人员开发了 EvoLen，一种用于 DNA 语言模型 (DNALMs) 的新型分词方法，该方法整合了进化信息。与自然语言中使用的标准字节对编码 (BPE) 不同，EvoLen 利用跨物种进化信号，优先考虑功能性序列模式，如调控基序。这种方法旨在为 DNALMs 创建更具生物学意义和可解释性的序列表示。实验表明，EvoLen 在保留功能性模式和符合进化约束方面有所改进，同时在各种 DNALM 基准测试上的表现与 BPE 相当。