一篇新的研究论文提出了一种更严谨的方法来检测大型语言模型（LLM）中的记忆现象。该研究强调了先前提取技术中的缺陷，认为它们常常通过未能正确区分记忆的训练序列和可预测的非训练序列而夸大了记忆现象。提出的方法涉及匹配比较，以建立可预测性的基线，从而能够更准确、更可靠地声称存在记忆现象。该方法表明，像OLMo 2 32B和Llama 3.1 70B这样的模型可能表现出先前被低估或误认的记忆模式。 AI
影响 为LLM记忆现象建立了更准确的基准，可能影响未来的安全评估和模型开发。
排序理由 该集群包含一篇详细介绍评估LLM记忆现象新方法的论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2607.12649v1 Announce Type: cross Abstract: Recent work on extractable memorization in LLMs suffers from two contrasting validity problems. Some studies overstate extraction, e.g., relying on sequences too short to distinguish memorization from predictability. Others imply …
Recent work on extractable memorization in LLMs suffers from two contrasting validity problems. Some studies overstate extraction, e.g., relying on sequences too short to distinguish memorization from predictability. Others imply that extraction is unreliable evidence of memoriza…