biosecurity
PulseAugur coverage of biosecurity — every cluster mentioning biosecurity across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Google DeepMind 开发出 AI 设计蛋白质的数字水印技术
Google DeepMind 开发出一种为 AI 设计的蛋白质添加数字水印的方法，以应对潜在的生物安全威胁。该技术基于 Google 的 SynthID 技术，能在不影响蛋白质功能的情况下，将不易察觉的细微水印嵌入蛋白质序列中。该水印可用于识别受信任研究人员设计的蛋白质，从而对其他蛋白质进行更严格的审查，并帮助减轻与 AI 生成的生物材料相关的风险。
-
人工智能在生物安全领域的应用：新论文详述双重用途风险与治理挑战
一篇新近发表在arXiv上的论文探讨了人工智能在生物安全领域的双重性，详细阐述了人工智能如何加速生物研究，同时又构成重大风险。该综述强调，尽管人工智能在信息检索和实验规划等数字任务方面表现出色，但在湿式实验室中的物理执行仍然是一个重大障碍。文章概述了人工智能使用带来的各种生物威胁，从信息收集到潜在的释放，并主张采用纵深防御治理策略来管理这些风险。
-
报告警告：人工智能可能增加生物战争的风险
《纽约时报》的一份报告称，人工智能可能正在增加生物战争的风险。文章探讨了人工智能如何被用于开发更危险的病原体或使其现有病原体更具传染性。这引起了对生物安全和全球政治的重大担忧，并引发了关于人工智能在该领域伦理影响的讨论。
-
人工智能实验室竞相加强安全措施，防止生物武器被滥用
包括Anthropic、OpenAI和Google DeepMind在内的领先人工智能公司正在加速努力，以减轻先进人工智能系统被滥用于制造生物武器的风险。这些组织正在加强他们在生物风险测试、访问控制和其他安全措施方面的工作。这种担忧源于未来人工智能模型有可能协助用户开发新型病毒或生物武器，尽管在药物发现和疾病研究等领域具有潜在益处。
-
生成式AI现可设计功能性病毒基因组，引发生物安全担忧
生成式人工智能已发展到可以设计完整、功能性病毒基因组的程度。这种能力带来了重大的生物安全和生物安保问题，尤其是在此类技术的治理框架仍处于初级阶段的情况下。这一发展凸显了对合成生物学进行强有力监管的日益增长的需求。
-
特朗普政府在人工智能病原体担忧加剧之际削弱了生物安全团队
唐纳德·特朗普政府大幅削减了白宫生物安全团队，导致美国在应对潜在病毒威胁方面准备不足。这一削减发生之际，人们对人工智能病原体的担忧日益加剧。特朗普上任后，曾经多达30名专家的生物防御团队人数锐减，甚至出现过一段时间没有人专门负责生物安全。
-
80,000 Hours 将人工智能安全岗位置于气候、健康和福利岗位之上
80,000 Hours 的招聘板块正将其重点转向优先考虑与变革性人工智能 (TAI) 和人工智能安全相关的岗位。由于人工智能的快速发展，该组织认为 TAI 比全球健康、动物福利或气候变化带来更重大的生存风险和机遇。虽然他们将继续列出其他领域的入门级和初级职位，但将不再发布非 TAI 领域的的中高级职位，因为人才现在被认为在人工智能相关工作中更具影响力。
-
MATS 开放人工智能安全研究员项目，新增方向和资金支持
MATS Research 现已开放其 2026 年秋季研究员项目的申请。该项目为期 10 周，专注于人工智能对齐、安全和治理。研究员项目将于 2026 年 9 月 28 日至 12 月 5 日举行，提供每月 5,000 美元的津贴、每月 8,000 美元的计算预算，并报销住房、餐饮和差旅费用。本期项目新增了创业与领域建设以及生物安全方向，扩大了培训人工智能安全研究人员和创业者的能力。