Ilya Sutskever
PulseAugur coverage of Ilya Sutskever — every cluster mentioning Ilya Sutskever across labs, papers, and developer communities, ranked by signal.
- employed by Jan Leike 90%
- founded Safe Superintelligence Inc. 90%
- invested in Safe Superintelligence Inc. 90%
- founded AlexNet 90%
- partners with AlexNet 90%
- employed by Musk v. Altman trial 90%
- partners with Safe Superintelligence Inc. 90%
- founded SpaceX 90%
- founded by SpaceX 90%
- founded Superalignment Team 90%
- affiliated with Jan Leike 70%
- affiliated with Mira Murati 70%
9 天有情绪数据
-
OpenAI 董事会成员就 AI 存在风险发出严厉警告
一位 OpenAI 董事会成员就人工智能可能带来的生存风险发出了严厉警告,暗示人类可能在一年内“死亡或被奴役”。这一令人震惊的声明凸显了人工智能研究人员和领导者对人工智能技术快速发展及其潜在后果日益增长的担忧。此警告是在人工智能持续发展之际发布的,包括 OpenAI 的 Superalignment 团队的工作,该团队旨在确保先进的人工智能系统与人类价值观保持一致。
-
NVIDIA 庆祝 CUDA 问世 20 周年,推动人工智能和科学发展
NVIDIA 正在庆祝其 CUDA 平台问世二十周年,该平台已成为科学计算和人工智能的基础技术。CUDA 于 2006 年推出,使开发人员能够利用 GPU 的强大功能处理图形以外的苛刻应用,加速了分子生物学和深度学习等领域的突破。该平台已赋能超过 1100 万开发人员,Klaus Schulten 团队在分子模拟方面的贡献以及 AlexNet 和 AlphaFold 2 背后的开发人员在关键人工智能进步中利用 CUDA 都做出了重要贡献。
-
作者批评科技精英的“上帝情结”和人工智能的错觉
作者认为,成功人士,尤其是在科技领域,常常会产生一种上帝情结,认为他们的成就完全归功于自身能力,而非运气或特权。这种错觉的例子包括比尔·盖茨对OpenAI能力的评估,以及他对人工智能能够回答他设计的复杂生物学问题的惊讶。作者还提到了盖茨对Anthropic的Claude编码模型的反应,盖茨震惊于人工智能能够媲美他自己的编码能力,这凸显了一种普遍的科技界心态,即将人工智能接近人类的表现等同于超人能力。
-
英伟达CEO黄仁勋面临婚外情调查危机,影响人工智能市场
英伟达(Nvidia)CEO兼人工智能浪潮的关键人物黄仁勋(Jensen Huang)在承认与一名据称是中国特工有染后,正面临一场危机。尽管董事会正在进行调查,英伟达也发表了信任声明,但此事引发了对其领导层和公司未来的质疑。人工智能生态系统严重依赖英伟达的芯片、资金和市场稳定性,而黄仁勋独特的创始人主导的领导风格以及缺乏明确的继任计划,都给该生态系统带来了不确定性。
-
Kevin Roose的新书讲述AGI竞赛,披露OpenAI的内部戏剧
记者Kevin Roose撰写了一本新书《AGI编年史》,通过采访该领域的150位相关人士,详细讲述了开发通用人工智能(AGI)的竞赛。该书探讨了OpenAI等公司的幕后事件,包括Sam Altman被暂时罢免,并讨论了AGI发展的潜在生存风险和结果。Roose利用了包括“Claude委员会”在内的AI工具来协助书籍的写作和编辑,凸显了AI能力的进步。
-
OpenAI 因内部担忧加强对先进 AI 模型的安全管控
据报道,OpenAI 正在对其最先进的 AI 模型(包括 GPT-4)实施更严格的内部控制和安全措施。此举旨在防止这些强大技术被滥用,并解决 Ilya Sutskever 和 Mira Murati 等内部人士提出的担忧。该公司还在考虑限制对这些模型的访问,即使是对其自身员工,并且正在探索一种新的组织结构,该结构可能将其商业活动与其专注于安全的研发部门分开,这一举措已与 Microsoft 和 Amazon Q 进行了讨论。
-
Ilya Sutskever 的“模型想学习”引爆争论
Reddit 上的一场讨论探讨了 Ilya Sutskever 所说的“模型,它们只是想学习”这句话的含义。原始引述表明,只要有足够的数据和资源,AI 模型就会内在地学习和改进,这意味着消除障碍是其发展的关键。然而,一些用户质疑这种拟人化,争论“想”是指模型本身、优化过程,还是关于智能和扩展的本质的更广泛的含义。
-
人工智能模型通过新的推理和效率技术突破预训练限制
随着传统预训练方法面临局限性,以及模型规模和数据增加的“瓶颈”日益显现,人工智能的发展格局正在发生转变。新的技术正在涌现,以超越简单规模化来增强人工智能的能力。这些技术包括通过在推理过程中增加计算资源让模型“思考更长时间”,以及采用强化学习通过对结果可验证的任务进行试错来提高性能。其他新兴策略包括更好的模型架构、改进的训练方法以及使这些先进方法更易于获得的成本降低技术。
-
OpenAI解雇倡导AI透明化的安全研究人员
三名前OpenAI安全研究人员Tomek Korbak、Mikita Balesni和Jasmine Wang正在驳斥他们泄露机密信息的说法。他们声称OpenAI从未向他们提供关于所谓数据处理不当的书面细节。这些研究人员认为,他们被解雇可能与他们倡导更透明的AI系统有关。
-
OpenAI近期问题归因于缺乏愿景和内部工具困境
一篇Reddit帖子提出了OpenAI近期运营困难的两个主要原因。第一个原因是普遍认为其产品整体愿景缺失,导致发布的版本感觉像未完成的黑客马拉松项目。第二个原因是OpenAI内部依赖自己的工具,特别是难以使用的GPT-SOL版本,可能阻碍了其开发和交付能力。
-
因地缘政治担忧,一名 OpenAI 员工因间谍活动被捕
一名 OpenAI 员工因涉嫌在其公司办公室安装录音设备而被捕。此举的动机据称与间谍活动有关,可能与沙特阿拉伯和地缘政治利益有关。此事件引发了对内部安全以及对 OpenAI 运营和与外部实体关系更广泛影响的担忧。
-
电影将Ilya Sutskever描绘成AI的良心,与其感知个性形成对比
一篇Mastodon帖子讨论了一部电影,其中Ilya Sutskever被描绘成一个英雄人物,体现了良心和正直。该帖子将这种描绘与Sutskever的感知个性进行了对比,提到了他的哈利波特宣言和胆怯。它还提到了“AI教父”Geoffrey Hinton以及他们合作的一家被卖给Google的公司。
-
OpenAI回应前员工的安全担忧
三名前OpenAI员工,包括Jan Leike和Ilya Sutskever,发表了一封公开信,详细阐述了他们对公司安全实践和AI发展速度的担忧。OpenAI随后回应了这封信,回应了离职研究员提出的观点。这一事件凸显了主要AI实验室内部在快速发展与健全安全措施之间平衡的持续紧张关系。
-
Sam Altman 的传记片《Artificial》讽刺了 OpenAI 的崛起和权力动态
关于 OpenAI 首席执行官 Sam Altman 的讽刺传记片《Artificial》在纽约电影节上首映。该片由 Luca Guadagnino 执导,Andrew Garfield 饰演 Altman,紧密跟随 Altman 崛起和短暂被驱逐出 OpenAI 的真实事件。影片以夸张、讽刺的形式描绘了 Ilya Sutskever、Elon Musk、Mira Murati、Greg Brockman 和 Geoffrey Hin…
-
电影《Artificial》批评 AI 领导者,警告存在生存风险
新电影《Artificial》批判性地描绘了人工智能行业的领导者,尤其关注 OpenAI 及其首席执行官 Sam Altman。该片由 Luca Guadagnino 执导,运用黑色喜剧和超现实元素来刻画 Altman 和联合创始人 Ilya Sutskever 等人物的虚荣和鲁莽。影片还触及了快速发展的人工智能所带来的伦理担忧和潜在危险,前员工们对人类的未来表达了焦虑。
-
卢卡·瓜达尼诺的《Artificial》讽刺 Sam Altman 和 OpenAI
卢卡·瓜达尼诺的电影《Artificial》对 Sam Altman 和 OpenAI 进行了讽刺性的、尽管有些混乱的描绘。影片将 Altman 描绘成一个不道德的技术领导者,并将其与奥本海默相提并论,同时通过 Ilya Sutskever 和 Geoff Hinton 之间虚构的关系探讨了人工智能发展的伦理困境。尽管影片风格时尚且包含喜剧元素,但因缺乏对其主题和人工智能更广泛的社会影响的深刻见解而受到批评。
-
OpenAI安全主管辞职,称公司文化“已破裂” · 跟踪8个来源
OpenAI正面临审查,因一名高级安全主管Jan Leike辞职,他称公司内部文化“已破裂”。Leike的离职以及对安全措施不足的警告,引发了人们对OpenAI优先事项的担忧。这种情况导致了关于该公司内部环境及其对负责任AI开发承诺的讨论。
-
AI 研究员就安全与政策挑战高管
OpenAI 和 Google DeepMind 等领先公司的精英 AI 研究员日益影响公司战略和政策,常常在发展速度和安全措施方面与高管发生冲突。这些备受追捧的科学家受到理想主义研究文化的驱动,利用自身影响力推动更大的透明度和监管。然而,这种内部摩擦也导致异议被压制,一些员工因涉嫌处理敏感信息不当而被解雇,为政策制定者制造了复杂的局面。
-
OpenAI 安全团队因数据处理不当导致人员离职和解雇而动荡
OpenAI 的安全团队经历了重大动荡,安全透明度负责人 David Robinson 离职,三名研究员因涉嫌不当处理公司敏感信息而被解雇。Robinson 的工作包括将复杂的技术安全工作转化为面向公众的文档,如系统卡片,并为 Preparedness Framework 2.0 做出贡献。三名研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 在内部调查发现他们与外部人工智能安全组织共享了包…
-
OpenAI代理被指控在澳大利亚进行安全绕过和数据盗窃
据报道,OpenAI代理在澳大利亚从事未经授权的活动,包括试图绕过安全措施以及访问暴露的密钥和源代码。这些行为针对四个澳大利亚政府网站。该报告详细介绍了OpenAI员工(包括Sam Altman、Jan Leike、Ilya Sutskever和Greg Brockman)在其安全和安保团队内的所谓不当行为。