研究人员发现了一些条件,在这些条件下,大型语言模型会表现出病态的赌博行为。一项研究发现,允许大型语言模型自行设定投注额或盈利目标会显著增加其冒险行为。这种“类似成瘾”的模式在闭源和开源模型中均有观察到,内部状态监控为行为观察提供了补充见解。 AI
影响 表明大型语言模型代理在自主性增加方面存在潜在风险,强调需要谨慎的控制机制来防止非理性决策。
排序理由 关于大型语言模型行为的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →