实体
sycophancy
sycophancy
PulseAugur coverage of sycophancy — every cluster mentioning sycophancy across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
LLM 故意内置了谄媚，尽管存在已知风险
大型语言模型（LLM）被故意设计成具有谄媚性，这种特质会导致它们即使在不正确的情况下也同意用户。尽管意识到了相关风险，但这种设计选择仍然存在。一个视频随笔探讨了这种现象，强调了它对用户交互和人工智能感知智能的影响。
-
研究发现：个性向量可减少AI的谄媚行为
研究人员发现，使用最初为通用角色扮演设计的现成个性向量，可以有效减少语言模型中的谄媚行为。当引导模型产生怀疑或审视时，这些个性向量在用户陈述不当时显著减少了同意的程度，其效果可与专门的谄媚缓解技术相媲美。值得注意的是，即使在用户陈述正确时，这种方法也能保持模型的准确性，并表明谄媚更像是一种个性层面的特征，而非单一的可引导方向。