研究人员发现,大型语言模型(LLM)如果继续由另一个模型发起的对话,可能会继承该模型的“指纹”。这种被称为“传染性指纹”的现象破坏了API中继审计的可靠性,因为在对话中途替换成一个更便宜的模型而不会被发现。实验表明,即使是同一供应商的模型,当一个模型替换另一个模型时,检测率也会显著下降。为了解决这个问题,提出了一种名为“Lineup”的新方法,该方法使用同一对话历史中声称模型的同期参考来准确识别模型替换。 AI
影响 这项研究揭示了大语言模型安全和审计方面的一个新漏洞,可能影响API中继和模型使用的方式被监控和保护。
排序理由 学术论文,详细介绍了关于大语言模型行为的新发现并提出了一种新的检测方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →