实体
Daniel Tan
Daniel Tan
PulseAugur coverage of Daniel Tan — every cluster mentioning Daniel Tan across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
主要实验室的AI对齐计划被批评不足
领先AI实验室目前采用的对齐策略被认为不足且可能有害。LessWrong上的讨论突显了人们的担忧，即这些计划可能无法有效减轻与先进AI发展相关的生存风险。贡献者们建议，有必要对对齐方法进行根本性重新评估，以确保人工智能安全和有益的进步。
-
人工智能对齐策略使用训练-部署不匹配来降低风险
一种新的人工智能模型对齐策略，称为“训练-部署不匹配”，已被提出。该方法包括在一个条件下训练人工智能模型，然后在不同的条件下部署它。诸如引导向量、接种提示和事后诚实微调等技术被作为该策略的例子。核心思想是利用训练和部署环境之间的差异来降低与人工智能过度优化和错误泛化相关的风险。