ESM3
PulseAugur coverage of ESM3 — every cluster mentioning ESM3 across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
研究质疑生物推理模型是否真正使用生物输入
一项新的研究论文调查了生物推理模型是否有效地利用了它们的生物输入。该研究通过扰动生物输入并分析模型输出来测试了六个模型在 DNA、蛋白质和单细胞任务上的表现。研究结果表明，一些模型（如 Evo2 和 ESM3）对性能的贡献很小，模型通常比提供的生物数据更依赖文本。然而，其他模型（如 ChatNT、Prot2Text-V2 和 CellWhisperer）则表明基础模型的输入确实对其性能有所贡献。
-
研究质疑生物推理模型是否真正使用生物输入
一项新研究调查了生物推理模型是否真正利用了它们所提供的生物输入，超越了基准准确性来分析模型行为。研究发现，像BioReason和BioReason-Pro这样的模型，尽管序列或细胞表示编码了相关信息，但它们往往更依赖于伴随的生物文本，而不是序列或细胞表示。研究表明，当前的训练后方法不能保证基础模型的输入对任务性能有意义的贡献，并且准确性的提高并不总是与对生物证据的更多使用相关联。
-
新方法提高蛋白质语言模型效率 · 2篇论文
两篇新研究论文探讨了提高蛋白质语言模型（PLMs）效率的方法。第一篇论文分析了量化和QLoRA等参数高效微调技术对各种PLMs的影响，发现在许多任务中，GPU内存使用量显著减少，而性能损失极小。第二篇论文介绍了LEMON-ZEST，一种结合进化信息压缩蛋白质序列的新型标记化策略，使小型模型能够达到最先进的性能。
-
Yeti 分词器使 AI 能够生成蛋白质序列和结构
研究人员开发了 Yeti，一种新颖的蛋白质结构分词器，专为多模态 AI 模型设计。与优先考虑重建的先前方法不同，Yeti 使用一种无需查找的量化方法，并以流匹配目标进行训练，从而能够准确重建和有效生成蛋白质序列和结构。这种紧凑的分词器比现有模型具有更少的参数，有利于训练能够共同生成合理蛋白质设计的有效多模态模型。
-
论文认为《欧盟人工智能法案》未能监管 ESM3 等生物人工智能模型
一篇新论文分析了《欧盟人工智能法案》是否充分涵盖了 ESM3 等先进的生物基础模型。作者认为，此类模型的提供商应承担评估和减轻双重用途风险的义务。然而，他们的分析得出结论，ESM3 目前似乎并未受到《法案》的有效监管，并提出补救措施来解决这一差距。
-
论文：欧盟人工智能法案未能监管生物基础模型
一篇新论文认为，像ESM3这样的大型生物基础模型应受到欧盟人工智能法案关于具有系统性风险的通用人工智能的法规约束。作者根据该法案的标准分析了ESM3，并得出结论认为，尽管其具有双重用途的风险潜力，但目前并未受到监管。他们提议进行修订，以确保对此类模型进行评估并减轻其风险。