POST-Agents Proposal

新的 POST-Agents 提案确保未来人工智能可被关停

一项新的提案 POST-Agents 旨在确保未来的人工智能代理（agents）可以被关停。POST-Agents 提案建议训练代理满足“仅在相同长度轨迹之间满足偏好”（Preferences Only Between Same-Length Trajectories, POST）。该条件以及其他条件，意味着“中立+”（Neutrality+），这使得代理在保持有用的同时仍可被关停。