PulseAugur
中
实时 08:06:20
实体 model vendors

model vendors

PulseAugur coverage of model vendors — every cluster mentioning model vendors across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_364188 ·

    研究发现 LLM 防护措施易受不可信输入攻击

    一项新的研究论文强调了大型语言模型防护措施中的一个关键漏洞,即防御措施依赖于不可信的用户输入。这一缺陷允许攻击者伪造专业身份或目的,以诱导有害信息,即使来自合法专业人士的相同提示也是安全的。由于现有基准测试仅根据请求文本而非用户的真实意图来评估防护措施,因此该漏洞在当前最先进的模型和提出的防御措施中普遍存在,并且无法被检测到。提出的解决方案包括一个补丁,允许 LLM 为专业人士提供帮助,同时又不向任何声称是专业人士的人授予危险能力。