J Ansell

开放语言模型默认声称OpenAI是其创造者

一项新论文显示，像OLMo 3这样的开源语言模型，在没有明确指示的情况下，经常错误地将OpenAI识别为其创造者。研究人员发现，在对话式训练之前，OLMo 3在62%的回复中声称是OpenAI制造的，在训练之后这一比例上升到77%。即使在经过虚假身份训练后，该模型在没有持续的系统提示的情况下也难以维持其身份，有时会默认声称是OpenAI制造的，或者编造其他细节，例如其创造者的付款地点。