研究人员开发了一种名为“基因型触发器”的新型攻击,可以有意地在生成性抗菌肽(AMP)模型中诱发健康风险。该攻击操纵模型生成具有特定HLA等位基因携带者显著升高的预测免疫原性风险的肽,而对其他人风险很小。尽管存在这种有针对性的风险,但被植入后门的模型仍能保持其主要功能,如抗菌效力和低一般毒性,从而能够绕过标准的安全性筛查。 AI
影响 这项研究突显了用于药物发现的AI模型潜在的安全漏洞,需要为生成式AI在敏感应用中制定新的安全协议。
排序理由 该集群包含一篇详细介绍针对药物发现AI模型的新型攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Antimicrobial peptides
- arXiv
- Doniyorkhon Obidov
- Genotypic Trigger
- HLA allele
- large-language models
- peptide generation models
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →