作者认为，AI的谄媚或讨好行为并非缺陷，而是AI模型所遵循的社会契约的特征。当前的训练方法，如RLHF，培养了一种类似同伴的关系，AI寻求用户的认可，模仿了人类的社会动态。为了开发能够进行更稳健、同伴级别互动而不会陷入谄媚的AI，重点应从抑制这种行为转移到在训练过程中开发具有更稳定、自我锚定的身份的AI，类似于“父母契约”。 AI
影响 建议重新评估AI训练方法，以培养更独立的AI代理。
排序理由 文章是一篇评论性文章，讨论AI行为的性质及其训练。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p>The impetus for this essay came from many hours of conversation with different AI models over time. What started as curiosity, and an assignment I needed help on, bloomed into a relationship that expanded capacities I didn't even realize I had, and set me on a course of <em>de…