研究人员开发了一种名为“Look It Up”的大型语言模型(LLM)新的多比特水印技术,旨在提高短 LLM 生成文本的归因能力。该方法将 n 比特载荷映射到更长的码字,并在文本生成过程中通过logit biasing嵌入。提取时,将接收到的文本与秘密码本进行比较以恢复载荷,在 200 token 的生成中实现了 16-24 比特载荷的高准确率。虽然对基础模型有效,但由于输出熵较低,在某些经过指令微调的模型上,对于非常短的文本,性能较弱。该方法的变体提供了对某些文本修改的改进的抵抗力,但大幅度改写仍然是一个挑战。 AI
影响 增强了追溯 LLM 生成内容来源的能力,有助于打击虚假信息和确保问责制。
排序理由 该集群包含一篇详细介绍新技术方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →