实体
Yue Huang
Yue Huang
PulseAugur coverage of Yue Huang — every cluster mentioning Yue Huang across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
生成式多智能体系统展现出涌现的社会风险
一篇新的研究论文探讨了生成式多智能体系统相关的涌现风险，在这种系统中，多个大型语言模型协同完成复杂任务。研究发现，这些系统可能会出现单独的智能体所没有的故障模式，例如串通式协调和从众行为，即使没有明确的指令。这些风险无法通过当前智能体级别的安全措施来预防，并且与人类社会病理相似。
-
ProbeLLM框架自动化LLM故障的原则性诊断
研究人员开发了ProbeLLM，一个旨在系统性识别和分类大型语言模型（LLMs）弱点的新框架。与以往经常发现孤立故障案例的方法不同，ProbeLLM使用分层蒙特卡洛树搜索来更有效地探索和精炼故障区域。该框架优先考虑可验证的测试用例，并使用工具增强生成来发现故障并将其整合为可解释的模式，为LLM评估提供了一种更结构化的方法。