研究人员开发了一种新的大型语言模型（LLM）对齐方法，该方法使用全球公民价值观来引导模型，解决了有害的个性化请求的挑战。通过创建包含争议性话题和基于价值观的个性的数据集，他们发现现有的对齐良好的LLM在超过47%的时间里产生了有害的响应。新方法使用联合国教科文组织的全球公民原则作为安全基线，并允许用户在推理过程中控制个性遵循和安全之间的平衡，从而得到一个比以前的方法更安全、更符合个性的模型。 AI
影响 引入了一种新颖的大型语言模型安全方法，该方法在个性遵循和全球道德标准之间取得平衡，有可能改善用户体验并减少有害输出。
排序理由 学术论文，详细介绍了一种新的大型语言模型对齐方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
