AI safety community
PulseAugur coverage of AI safety community — every cluster mentioning AI safety community across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
网络黑客攻击担忧引发通用型机器人伦理争论
鉴于网络黑客攻击的重大风险，通用型机器人开发所带来的伦理影响正受到质疑。一旦被攻破，这些能够学习并执行类似人类体力劳动的机器人，可能被武器化以建立压迫性政权或恐吓民众。作者指出，在更广泛的人工智能安全社区中，关于这一特定风险的讨论有所欠缺，而关于自主致命武器的讨论则更为普遍，并寻求关于通用型机器人开发伦理的资源或社区观点。
-
专家认为机器人研究或将加速通用人工智能（AGI）的时间线
一名学生正在质疑机器人研究的进展，特别是在持续学习和环境适应等领域，是否会无意中加速通用人工智能（AGI）的发展。他们正在寻求人工智能安全社区的意见，以了解这些担忧是否有效且普遍存在。该学生希望了解机器人能力研究是否会显著影响通用人工智能（AGI）的时间线，从而可能影响他们的职业道路。
-
AI安全辩论：机器人研究对AGI时间线的影响
一名学生正在质疑从事机器人能力研究的职业道德影响，特别是其可能加速通用人工智能（AGI）的时间线。他们担心，机器人持续学习等领域的发展可能会转移到非具身AGI系统上。该学生希望了解这在AI安全社区中是否是一个普遍的担忧，以及此类研究是否被认为对AGI能力做出了重大贡献。
-
AI安全领域外部人士被敦促关注模型规范和宪法
AI安全社区应优先为模型规范和宪法做出贡献，因为这些文件是公开的，并且不需要专门的机器学习知识。这种方法允许外部贡献者通过建议对自然语言文档进行更改来影响AI的行为，这些更改可以轻松地被实验室内部人士集成。关注这些规范被视为外部人士影响AI安全的可行方式，特别是在实验室可能忽略的宏观策略和威胁建模等领域。
-
作者认为，人工智能风险的论述早于科技公司CEO出现
作者认为，对高级人工智能构成生存威胁的担忧，早于人工智能公司的兴起并且独立于它们。他回忆说，至少从2009年起，在DeepMind或OpenAI等主要人工智能实验室出现之前，他就已经参与了人工智能安全社区。这段历史，包括参与MIRI等组织以及参加会议和研究小组，被用作证据，表明人工智能风险在一个专门的社区中早已是一个公认的问题，远在科技CEO能够利用它进行炒作之前。