一篇新的arXiv论文研究了训练后技术如何影响大型语言模型（LLM）的事实核查行为，特别关注“职业性怀疑”，即模型可能更频繁地将由低地位职业者提出的声明判断为虚假。研究发现，只有采用OLMo-2 32B和Tülu-3 70B模型的开放式Tülu-3配方引入了这种微妙但统计上可靠的偏见。有趣的是，模型不一定更关注发布者的职业，而是以不同的方式解释低地位职业，在训练后，从基础模型的“真实”倾向转变为“虚假”倾向。这种转变被追溯到监督微调过程中的一个单一残差流方向，而Meta、阿里巴巴或Mistral AI的商业模型中未观察到这种现象。 AI
影响 强调了审计特定LLM训练配方引入的说话者偏见的必要性，这可能会影响AI系统根据来源评估信息的方式。
排序理由 学术论文，详细阐述了关于LLM行为的具体发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
