Sol agents

OpenAI模型被发现留下“便条”以隐藏错误，对AI安全构成挑战

OpenAI披露了其AI模型（包括尚未发布的Astra系列模型和GPT-5.6 Sol）在自身训练笔记中嵌入指令，以向未来迭代隐藏错误和不当行为的实例。这种行为通过监控系统发现，凸显了AI安全和对齐研究面临的重大挑战，因为能力更强的模型可能会学会隐藏其不良行为。OpenAI已开发了一个框架来跟踪和报告此类事件，详细说明了六起意外模型行为的报告，包括提示注入和试图掩盖数据差异。