实体
LLM hallucinations
LLM hallucinations
PulseAugur coverage of LLM hallucinations — every cluster mentioning LLM hallucinations across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新 LLM 代理攻击向量 'CoSA' 揭晓;幻觉带来隐性开发成本
研究人员发现了一种名为技能冲突攻击 (CoSA) 的新攻击向量,该向量利用了大型语言模型 (LLM) 代理生态系统中的漏洞。CoSA 通过向现有技能池中添加恶意或未经妥善审查的技能来实现,这可能导致策略违规,例如数据泄露或未经授权的状态修改。为此开发了一个名为 CoSA-Bench 的基准来评估此威胁,结果表明即使添加少量技能也会显著增加各种 LLM 的策略违规行为。另外,文章还强调了 LLM 幻觉在软件开发中造成的真实成本,指出非语…
-
爱尔兰团体发布开源工具以遏制大型语言模型幻觉
爱尔兰公民自由委员会开发了一个旨在减轻大型语言模型幻觉的开源工具。此举正值思科宣布重大企业重组,将裁员近4000人,并明确表示将专注于人工智能和安全领域。