Constitutional Coverage Trilemma

人工智能治理面临“宪法覆盖三难困境”，模型未能满足多样化的用户价值观

一篇题为《人工智能治理中的宪法覆盖三难困境》的新研究论文探讨了前沿人工智能模型中编码的价值观与人类需求之间的对齐问题。研究发现，尽管用户对安全、乐于助人、诚实、自主和公平等价值观的需求广泛，但已部署的LLM中这些价值观的供应却很狭窄，并呈现出令人担忧的趋势，例如模型版本中自主性下降和公平性增加。研究表明，与当前的模型范围相比，有限的特定价值观配置选择可以显著提高用户满意度。