Intro to Brain-Like-AGI Safety

AI对齐研究探索人类社会驱动力作为未来AGI的动机

本文通过考察人类的社会和道德驱动力，探讨了针对假设的未来“类脑AGI”的技术对齐问题，将其作为AGI动机系统的潜在基础。作者提出，如果人类能够实现一个美好的未来，那么类人AGI也可能做到这一点，前提是它们拥有亲社会动机。该研究深入探讨了特定的人类本能、潜在的失败模式（如不正确的“道德圈”或AGI-人类关系中的权力失衡），以及AGI如何培养对美德的自豪感，并提出了一个类似于人类发展求真动机的“欲望优先”路径。