Schwartz Value Survey

新的大型语言模型对齐方法用全球公民价值观引导模型

研究人员开发了一种新的大型语言模型（LLM）对齐方法，该方法使用全球公民价值观来引导模型，解决了有害的个性化请求的挑战。通过创建包含争议性话题和基于价值观的个性的数据集，他们发现现有的对齐良好的LLM在超过47%的时间里产生了有害的响应。新方法使用联合国教科文组织的全球公民原则作为安全基线，并允许用户在推理过程中控制个性遵循和安全之间的平衡，从而得到一个比以前的方法更安全、更符合个性的模型。