Holden Karnofsky
PulseAugur coverage of Holden Karnofsky — every cluster mentioning Holden Karnofsky across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
Manifund 启动博客复兴计划，为已停更博主提供资金支持
专注于机制设计的组织 Manifund 启动了博客复兴计划，旨在鼓励前博主重拾写作。该计划通过众筹方式为已停止博客写作的个人提供 1000 美元或更高的赏金，初始资金为 Manifund 提供的 8000 美元，并设有 10000 美元的二次方匹配资金池。该倡议旨在对抗当前互联网上不利于个人、不受约束的思想表达的动态，为人们提供支持特定已停更博客的方式。
-
律师被敦促加入人工智能安全工作，以减轻灾难性风险
一位拥有十多年诉讼和人权经验的大律师倡导法律专业人士更多地参与人工智能安全领域。作者建议，律师可以通过帮助研究人员更好地理解和阐述他们的工作、促进跨学科交流以及驾驭复杂的监管环境来做出贡献。该文章将人工智能相关信息分为技术、工具、社会和安全四类，以帮助管理海量的新闻和研究信息流。
-
为AI安全领域通才提供精选阅读清单以促进成长
一份阅读清单已为AI安全社区的通才 compiled，旨在促进成长和项目所有权。该清单包含18篇论文和博客文章，经常引用Paul Graham、Ben Kuhn、Ethan Perez和Greg Brockman的文章。涵盖的关键主题包括培养有效的个人特质、做出战略决策、领导项目以及理解组织动态。
-
Altman与Amodei长达十年的AI恩怨持续塑造行业
OpenAI首席执行官Sam Altman与Anthropic首席执行官Dario Amodei之间长达十年的恩怨，塑造了领先AI公司的发展轨迹。据报道，这场冲突源于他们共同在OpenAI时期就存在的关于AI开发和安全协议的基本分歧。这些分歧导致了他们在各自公司采取了不同的方法，尤其是在与美国国防部等政府实体的合作方面，并且仍然是AI开发竞争格局中的一个重要因素。
-
Holden Karnofsky 表示人工智能安全努力可能产生负面后果
Holden Karnofsky 整理了一份关于人工智能安全努力可能产生的潜在负面后果的列表。他承认人工智能安全作为一项事业的重要性，但对过度自信以及可能产生的意外负面影响表示担忧。风险包括设计不当的治理、两极分化、滥用可能性增加以及与未来人工智能系统建立敌对关系。Karnofsky 还指出，人工智能安全工作可能会无意中加速人工智能的进步，从而可能导致负面结果。
-
AI安全努力和美国监管引发辩论和不确定性
人们越来越担心AI安全努力可能会无意中导致负面后果，从设计不周的监管到与未来AI系统的对抗关系。Holden Karnofsky等专家强调了AI治理的高变异性，激进主义工作可能使公众舆论两极分化，以及安全干预可能加速AI进展从而增加生存风险的风险。与此同时，美国政府，尤其是在特朗普政府时期，正在应对复杂的AI监管环境，选择逐案干预和自愿框架而非正式规则，从而造成行业不确定性。这种方法虽然旨在避免扼杀创新，但导致了一种“影子政策”，在没…