新的大语言模型（LLM）逆向技术可近乎精确地重构提示词

研究人员开发了一种新颖的方法，用于从大语言模型（LLM）生成文本的提示词进行重构。与先前需要微调模型或访问其权重的方​​法不同，这项新技术在黑盒环境下运行。它通过使用目标 LLM 生成的合成数据，从头开始训练一个逆向语言模型，并采用与正向生成过程相呼应的先前 token 预测策略。该方法不仅实现了近乎精确的提示词重构，还支持多样化的提示词生成，并展示了跨不同 LLM 和数据集的可迁移性，在各种评估指标上优于现有方法。 AI

影响 通过允许重构输入提示词，能够更好地理解和潜在地分析大语言模型（LLM）输出的安全性。

排序理由 学术论文，详细介绍了一种新的大语言模型（LLM）提示词重构方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• Pheu Thai Party
• ScienceCast

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →