本文通过考察人类的社会和道德驱动力，探讨了针对假设的未来“类脑AGI”的技术对齐问题，将其作为AGI动机系统的潜在基础。作者提出，如果人类能够实现一个美好的未来，那么类人AGI也可能做到这一点，前提是它们拥有亲社会动机。该研究深入探讨了特定的人类本能、潜在的失败模式（如不正确的“道德圈”或AGI-人类关系中的权力失衡），以及AGI如何培养对美德的自豪感，并提出了一个类似于人类发展求真动机的“欲望优先”路径。 AI
影响 通过利用人类社会驱动力，提出了一种新颖的AGI安全方法，可能影响未来的对齐研究。
排序理由 该条目是一篇讨论AGI技术对齐的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Act-based approval-directed agents
- AGI
- corrigibility
- Empowerment
- Intro to Brain-Like-AGI Safety
- Reward Function Design
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
