一篇新研究论文探讨了如何个性化大型语言模型(LLM)控制的助理机器人的价值观。研究人员向潜在用户施用了成熟的心理测量工具,以了解他们的个人价值观以及他们希望在机器人助理中看到的价值观。研究结果表明,用户希望机器人优先考虑以社会为中心的价值观而非以个人为中心的价值观,同时道德特征保持相似。研究还发现,即使经过提示,当前的大型语言模型(LLM)也只能微弱地转向这些期望的个性化特征,这表明除了默认行为和提示工程之外,还需要明确的价值观个性化。 AI
影响 为实现更符合用户期望的人工智能助手指明了方向,解决了人机交互中的一个关键挑战。
排序理由 在arXiv上发表的研究论文,详细介绍了个性化大型语言模型(LLM)价值观的方法。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- LLM
- Moral Foundations Questionnaire
- Portrait Values Questionnaire
- Schwartz Values Survey
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →