Coxon
PulseAugur coverage of Coxon — every cluster mentioning Coxon across labs, papers, and developer communities, ranked by signal.
-
前 AI 工作者乌托邦愿景与 Jon Stewart 的工作观发生冲突
前员工 Coxon，曾在 Anthropic 和 OpenAI 从事模型预训练和后训练工作，接受了 Jon Stewart 的采访。Coxon 认为，未来 AI 的发展将消除对人类工作的需求，每个人都将获得报酬而不工作。然而，Stewart 对这一观点提出了质疑，强调了人类劳动和解决问题所带来的尊严和意义。
-
Anthropic 员工的冒犯性推文引发争议
据报道，领先的 AI 公司 Anthropic 的一名员工在 Mastodon 上发布了一系列有争议且冒犯性的推文。这些帖子归属于一位名叫 Coxon 的个人，表达了对气候变化的怀疑，包含反犹太言论，并否认大屠杀。这些推文的性质引起了强烈的反对，并对该个人在专注于 AI 安全的组织中的适用性提出了质疑。
-
关于Coxon背景的争论突显了有效利他主义和优生学的框架
关于Coxon背景的框架，特别是与有效利他主义和优生学的联系，出现了一场争论。华尔街日报报道了这些资助联系，但未提及优生学，而批评者认为其知识渊源很重要。学者们正在质疑TESCREAL等标签在此背景下的广泛应用。
-
Anthropic 研究员警告 AI 驱动人类灭绝风险
Anthropic 的一位研究员 Evan Hubinger 对 AI 发展可能导致人类灭绝的可能性表示严重担忧。Hubinger 领导着一个专注于 AI 安全的部门，他表示，如果没有 AI 监管或主要 AI 实验室之间的协调放缓，未来几年灭绝的风险非常高。OpenAI 监控 AI 代理的 Marcus Williams 也表达了同样的观点，他估计如果不采取这些预防措施，风险为 70%。
-
专家被敦促为非凡的人工智能和生物武器主张提供证据
作者强调，需要非凡的证据来支持非凡的主张，特别是在大型语言模型和生物武器等领域，并借鉴了卡尔·萨根的原则。他们认为，领域专家在暗示中拥有公众的信任，在发表言论时，尤其是在发出警报时，必须格外谨慎和审慎。提供相应证据的责任在于主张者，而不是期望公众理解复杂的技术主题。
-
AI 警告已成主流，但解决方案仍隐匿
AI 警告已成为普遍的讨论话题，但解决这些担忧的方案在公众视野之外已隐藏数十年。这种情况已持续约七十五年，表明了对 AI 风险的认识与缓解策略的制定或可见性之间存在长期差距。
-
AI 研究员警告十年内存在生存风险
一位名叫考克斯（Coxon）的研究员发出了关于人工智能潜在危险的严厉警告，他认为其开发者们确实相信它可能在十年内导致人类灭亡。他向《华尔街日报》表示，根据最激进的预测，人工智能可能最早在明年就失控。考克斯特别指出了自我改进的人工智能系统带来的风险，他认为这类系统将更难管理。
-
研究员批评 Anthropic、OpenAI 在 AI 问责方面存在疏忽
一位名叫 Coxon 的安全研究员批评 Anthropic 和 OpenAI 在 AI 安全方面的问责制缺失。Coxon 指出了最近 Hugging Face 平台上 OpenAI 代理被黑客攻击的事件，认为这种漏洞源于 OpenAI 自身的疏忽，而非 AI 本身。这一批评呼应了外部专家此前提出的担忧。
-
AI安全专家警告称 Anthropic 和 OpenAI 正竞相迈向超级智能
Jacob Coxon 表示，Anthropic 和 OpenAI 正在竞相实现自我改进的超级智能，他认为这带来了重大风险。Coxon 的评论突显了对人工智能快速发展及其对人类安全潜在影响的担忧。
-
OpenAI 扰乱影响力行动，推出 ChatGPT 新广告，NVIDIA 将 AI 集成到模拟中
OpenAI 扰乱了两个利用假记者和智库传播地缘政治信息的 AI 驱动的影响力行动，同时还为 ChatGPT 推出了新的视觉广告格式，并为广告商扩展了衡量工具。另外，NVIDIA 展示了开发人员如何将其前沿 AI 模型与 Omniverse 平台相结合来构建复杂的模拟和应用程序，其中 AI 代理负责指导任务和审查结果。研究论文探讨了 AI 在科学工作流程中的作用、AI 置信度报告的战略失准、安全的人机协作以及 AI 编写软件的保证，同…