Anthony Aguirre
PulseAugur coverage of Anthony Aguirre — every cluster mentioning Anthony Aguirre across labs, papers, and developer communities, ranked by signal.
-
AI安全组织敦促对先进系统进行强制性部署前审查
未来生命研究所（FLI）对白宫一项旨在成立人工智能工作组的行政命令表示积极回应。FLI总裁Anthony Aguirre认为，这是应对先进人工智能带来的重大国家安全和经济风险的关键一步。尽管承认该命令的重要性，FLI仍主张对强大的AI系统实行强制性的政府部署前审查程序，而不是依赖于行业自愿框架，以防止发布可能带来不可接受风险的系统。
-
白宫考虑设立AI部署前测试小组
据报道，白宫正在考虑一项新的行政命令，以建立一个专注于先进AI系统部署前测试的人工智能工作组。此举被视为监管强大AI的重要一步，其起因是近期对Anthropic的Mythos等模型可能带来的风险的担忧。生命未来研究所对此表示赞赏，并强调需要像其他高风险行业一样，采取政府主导的全面安全和监督方法。
-
未来生命研究所支持特朗普关于人工智能硬件“一键关闭”的呼吁
美国前总统特朗普表示支持人工智能“一键关闭”，这与未来生命研究所（FLI）关于先进人工智能系统必须具备可靠关闭机制的立场一致。FLI总裁兼首席执行官Anthony Aguirre强调了关键系统的脆弱性，并引用了Anthropic的Mythos模型在自主利用零日漏洞和完成复杂网络攻击模拟方面的能力。Aguirre强调，除了软件之外，还需要硬件级别的安全措施来确保人类对日益强大的人工智能的控制，并建议此类功能是可行的，并且可以由NVIDI…
-
“这才是‘以人为本’的真正含义”——保守派、进步派和公民社会团体组成的广泛联盟发表共享原则声明
一个由保守派、进步派和公民社会团体组成的广泛联盟发布了一项宣言，为人工智能的开发和部署制定了33项“以人为本的原则”。这些原则分为五个主题，旨在通过确保人类控制、避免权力集中、保护人类体验以及建立人工智能公司的问责制来确保人工智能服务于人类。该倡议得到了众多组织和知名人士的支持，旨在对抗他们所描述的硅谷的鲁莽竞赛，并倡导有益于家庭和共同利益的人工智能系统。
-
Future of Life Institute 启动 800 万美元全国性人工智能监管宣传活动
Future of Life Institute 启动了一项名为“保护人类”的新宣传活动，旨在促进全美范围内的人工智能监管。该倡议计划投入高达 800 万美元，以争取公众支持，特别是在爱荷华州、肯塔基州、缅因州、密歇根州和北卡罗来纳州等关键州，强调两党对人工智能安全措施的支持。该宣传活动旨在对抗科技巨头的 But influence，并确保人工智能发展优先考虑人类福祉和常识性安全标准，而非不受约束的技术进步。