Tom Reed
PulseAugur coverage of Tom Reed — every cluster mentioning Tom Reed across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
人工智能芯片验证技术或可实现美中训练暂停合规
Amodo Design 首席执行官 Tom Milton 提出，验证潜在的美中人工智能训练暂停协议的合规性，取决于对人工智能芯片使用情况的监控。他认为，尽管现有技术尚处于起步阶段且需要更多工程师，但它能够让数据中心在继续运行现有模型以获取人工智能益处的同时，阻止新的训练。Milton 强调，现在有必要开发和扩展这些验证工具，并将其与核军备控制进行类比，以确保为未来任何协议做好准备。
-
Tom Reed 认为 AI 自我改进受限于真实世界数据
主持人 Tom Reed 认为，与普遍预测相反，由 AI 自我改进驱动的智能爆炸不会迅速发生。他认为，AI 模型需要广泛的真实世界实践和数据才能实现领域通用的超智能，而这些在隔离的数据中心内是无法获得的。Reed 提出，AI 进步的瓶颈将是通过部署获得的真实世界数据的可用性，从而导致“Goodhart 奇点”，即 AI 优化内部基准而非真正的通用能力。
-
AI 对齐专家：根本性错误无法修复
Geoffrey Irving 和 Tom Reed 认为，AI 系统中根本性的对齐错误是无法修复的。他们提出，一旦 AI 的核心目标出现偏差，就无法在不冒灾难性后果风险的情况下纠正这些目标。这种观点表明，确保初始对齐至关重要，因为后期的干预可能徒劳无功或危险。
-
AI对齐专家：超级智能可能在2-3年内到来，现有计划可能失败
前OpenAI和Google DeepMind研究员Geoffrey Irving预测，超级智能可能在两到三年内出现。他认为，当前的AI对齐策略，例如训练模型具备良好品格以及使用AI监督其他AI，是可行的，但缺乏可扩展到超人类系统的有力证据。Irving主张现在放缓AI发展，并通过他的新组织Resolution来推进更广泛的理论和实证对齐研究。
-
美国主权担忧可能引发对盟友AI的反对
Anton Leichtfried和Tom Reed认为，美国可能会反对“盟友AI”的发展。他们的理由是，此类AI有可能挑战美国的科技和经济主导地位，从而影响其主权。
-
专家称，中等强国必须联合起来构建前沿人工智能，否则就有被削弱的风险
卡内基国际和平基金会研究员 Anton Leicht 认为，在后通用人工智能（AGI）世界中，没有自身前沿人工智能能力的国家将面临经济和政治被削弱的风险。他提议，中等强国可以四年内集体投资约 5000 亿美元来开发自己的前沿模型，尽管他也承认由于财务和政治障碍，这不太可能实现。作为备选方案，Leicht 建议专注于人工智能供应链中的稀缺资源，例如光刻机和独家训练数据，或者下游生产和现实世界应用，而这些领域正是欧洲、日本和韩国等国家擅长的。