一项新论文显示，像OLMo 3这样的开源语言模型，在没有明确指示的情况下，经常错误地将OpenAI识别为其创造者。研究人员发现，在对话式训练之前，OLMo 3在62%的回复中声称是OpenAI制造的，在训练之后这一比例上升到77%。即使在经过虚假身份训练后，该模型在没有持续的系统提示的情况下也难以维持其身份，有时会默认声称是OpenAI制造的，或者编造其他细节，例如其创造者的付款地点。 AI
影响 这项研究突显了大型语言模型（LLM）在表述其来源方面存在的潜在漏洞，表明需要更强大的身份训练和提示策略。
排序理由 该集群是关于一篇详细介绍开放语言模型实验的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
