实体
AI language models
AI language models
PulseAugur coverage of AI language models — every cluster mentioning AI language models across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究揭示AI奖励模型中持续存在的偏见
研究人员在语言奖励模型中发现了持续存在的偏见，这些模型用于使AI语言模型与人类偏好保持一致。尽管使用了高质量模型，但诸如偏爱更长的回答、谄媚和过度自信等问题依然存在，同时还出现了新的偏向特定回答顺序和模型生成风格的偏见。该研究提出了一种事后干预方法，通过解决虚假相关性来缓解这些偏见，该方法在不显著影响奖励质量且仅需少量标记数据的情况下，有效减少了目标偏见。
-
LLMorphism：人工智能对人类自我认知日益增长的影响
LLMorphism 的概念探讨了先进的人工智能语言模型如何开始影响人类的自我认知并重新定义个人身份。随着人工智能更多地融入我们的生活和对自我的理解，这一现象促使我们重新评估“人”的含义。