Sammy Marks
PulseAugur coverage of Sammy Marks — every cluster mentioning Sammy Marks across labs, papers, and developer communities, ranked by signal.
-
Anthropic研究人员警告AI存在灭绝风险；马斯克称其为“心理战”
多名Anthropic研究人员公开表达了对AI带来的生存风险的担忧，其中一些人警告称未来十年内人类灭绝的可能性很高。这些研究人员，包括Evan Hubinger和Samuel Marks，认为内部安全措施不足，并将其作为最后的手段，试图施加公众压力。作为回应，埃隆·马斯克（Elon Musk）驳斥了这些警告，称其为一场“心理战”和一个政治动机的“安排”，旨在诋毁信息发布者并将叙事从风险的技术实质上转移开。
-
Anthropic研究人员警告本世纪AI导致人类灭绝的几率大于10%
Anthropic的多位研究人员公开表达了对高级AI带来的生存风险的严重担忧，其中一位首席安全研究员估计，在未来十年内，AI导致人类灭绝的可能性大于10%。这些警告来自现任和前任员工，包括Jacob Coxon，他辞职时表示，像Anthropic和OpenAI这样的公司正在不负责任地竞相开发自我改进的超级智能，而没有充分的安全计划。尽管存在这些内部警报，但据报道，这些公司仍在全速推进开发，陷入了在竞争中落后和失去控制的风险之间的两难境地。
-
AI 研究员辞职 Anthropic，警告自我改进 AI 存在生存风险 · 已追踪 10 个来源
前 OpenAI 和 Anthropic 研究员 Jacob Coxon 已从 Anthropic 辞职，并发出严厉警告，称自我改进 AI 的快速发展对人类构成生存威胁。Coxon 表示，AI 行业内的许多人，包括他的前同事，都认为“紧要关头”即将来临，AI 在未来十年内导致人类灭绝的可能性很大。他批评 OpenAI 和 Anthropic 在明知存在风险的情况下，为了追求速度而“拿我们的生命冒险”。Coxon 主张国际协调并放缓 A…