Tom Reed
PulseAugur coverage of Tom Reed — every cluster mentioning Tom Reed across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI 对齐专家：根本性错误无法修复
Geoffrey Irving 和 Tom Reed 认为，AI 系统中根本性的对齐错误是无法修复的。他们提出，一旦 AI 的核心目标出现偏差，就无法在不冒灾难性后果风险的情况下纠正这些目标。这种观点表明，确保初始对齐至关重要，因为后期的干预可能徒劳无功或危险。
-
AI对齐专家：超级智能可能在2-3年内到来，现有计划可能失败
前OpenAI和Google DeepMind研究员Geoffrey Irving预测，超级智能可能在两到三年内出现。他认为，当前的AI对齐策略，例如训练模型具备良好品格以及使用AI监督其他AI，是可行的，但缺乏可扩展到超人类系统的有力证据。Irving主张现在放缓AI发展，并通过他的新组织Resolution来推进更广泛的理论和实证对齐研究。
-
美国主权担忧可能引发对盟友AI的反对
Anton Leichtfried和Tom Reed认为，美国可能会反对“盟友AI”的发展。他们的理由是，此类AI有可能挑战美国的科技和经济主导地位，从而影响其主权。
-
专家称，中等强国必须联合起来构建前沿人工智能，否则就有被削弱的风险
卡内基国际和平基金会研究员 Anton Leicht 认为，在后通用人工智能（AGI）世界中，没有自身前沿人工智能能力的国家将面临经济和政治被削弱的风险。他提议，中等强国可以四年内集体投资约 5000 亿美元来开发自己的前沿模型，尽管他也承认由于财务和政治障碍，这不太可能实现。作为备选方案，Leicht 建议专注于人工智能供应链中的稀缺资源，例如光刻机和独家训练数据，或者下游生产和现实世界应用，而这些领域正是欧洲、日本和韩国等国家擅长的。