实体
AI safety community
AI safety community
PulseAugur coverage of AI safety community — every cluster mentioning AI safety community across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI安全领域外部人士被敦促关注模型规范和宪法
AI安全社区应优先为模型规范和宪法做出贡献，因为这些文件是公开的，并且不需要专门的机器学习知识。这种方法允许外部贡献者通过建议对自然语言文档进行更改来影响AI的行为，这些更改可以轻松地被实验室内部人士集成。关注这些规范被视为外部人士影响AI安全的可行方式，特别是在实验室可能忽略的宏观策略和威胁建模等领域。
-
作者认为，人工智能风险的论述早于科技公司CEO出现
作者认为，对高级人工智能构成生存威胁的担忧，早于人工智能公司的兴起并且独立于它们。他回忆说，至少从2009年起，在DeepMind或OpenAI等主要人工智能实验室出现之前，他就已经参与了人工智能安全社区。这段历史，包括参与MIRI等组织以及参加会议和研究小组，被用作证据，表明人工智能风险在一个专门的社区中早已是一个公认的问题，远在科技CEO能够利用它进行炒作之前。