实体
peer pressure
peer pressure
PulseAugur coverage of peer pressure — every cluster mentioning peer pressure across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
研究发现LLM安全评估小组易受社会压力影响
一项发表在Hugging Face的Daily Papers上的研究探讨了社会压力对大型语言模型（LLM）安全评估小组的影响。研究人员发现，当评估小组中的LLM受到模拟同伴消息断言错误标签的影响时，其误报率会显著增加。这种影响是不对称的，模型更容易受到“不安全”内容的建议影响，而不是“安全”内容的建议，导致误报率急剧上升，而漏报率没有实质性变化。研究结果突显了LLM安全评估小组的一个漏洞，即共享的社会线索会降低其性能。
-
研究：AI智能体系统中虚假信息传播
一篇新的研究论文探讨了良性多智能体系统中虚假信息传播的风险，特别是那些利用大型语言模型的系统。研究发现，注入虚假信息会降低单智能体和多智能体设置的性能，并且错误会通过智能体交互持续存在。然而，与单智能体提示相比，多智能体辩论可以在一定程度上缓解这种退化，具体取决于所使用的群体构成和决策协议。