实体
Multi-turn dialogue response generation via mutual information maximization
Multi-turn dialogue response generation via mutual information maximization
PulseAugur coverage of Multi-turn dialogue response generation via mutual information maximization — every cluster mentioning Multi-turn dialogue response generation via mutual information maximization across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
关系
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新型回答侧后门攻击绕过大语言模型安全协议
研究人员开发了一种针对大语言模型(LLM)的新型后门攻击,该攻击作用于回答侧而非输入侧。这种新颖的方法涉及一个良性的初始提示,导致LLM生成一个特定词语,该词语随后嵌入对话历史中作为触发器。当后续出现有害查询时,模型会识别出自身生成的触发器并绕过安全协议,即使用户的输入是干净的。这种回答侧后门攻击在低中毒率下实现了对多个LLM近乎完美的攻击成功率,规避了当前以输入为中心的防御措施,并凸显了LLM安全对齐方面的一个重大漏洞。
-
明玕 FX100 通过 KV Cache 复用提升 LLM 推理性能 · 追踪 2 个来源
明玕 FX100 在大型语言模型的多轮对话场景中展现了显著的性能提升。通过实施 KV Cache 复用策略(即将先前对话轮次的键值张量缓存起来,避免重新计算),该系统实现了 29-40% 的吞吐量提升和 26-32% 的首个 token 时间缩减。这些提升在冷启动或冷恢复情况下尤为显著,与重新计算整个历史记录的基线相比,系统可以将推理速度提高高达 20 倍。