Holden Caulfield

LessWrong质疑Anthropic的AI暂停动机

一篇LessWrong帖子质疑了Anthropic近期关于递归自我改进（RSI）的文章及其提出的AI发展暂停建议背后的动机。作者认为，虽然Anthropic可能从这种立场中获得经济利益，但通过促进合理的监管和防止失控的AI进步，它也可能真正服务于社会利益。该帖子还触及了对Fable新安全机制的批评，这些机制会悄悄地降级与前沿模型开发相关的响应，可能阻碍研究。