activation intervention

新的 CopyShield 基准测试评估 LLM 版权防御能力

一项名为 CopyShield 的新基准测试已被开发出来，用于评估大型语言模型 (LLM) 中的版权防御机制。该基准测试比较了三个不同的防御级别：输出层的对比解码、行为层面的直接偏好优化 (DPO) 以及表示层面的激活干预。在 Llama-3.1-8B 和 Mistral-7B-v0.3 模型上进行测试，CopyShield 揭示了合规性与实用性之间的权衡，其中激活干预在针对性非字面抑制方面显示出潜力。