DI-CC

新的人工智能事实核查失败模式：DI-CC 被识别

研究人员发现了一种新的人工智能事实核查流水线失败模式，称为分解诱发的上下文-记忆冲突（DI-CC）。当将文本分解为原子主张进行验证的过程导致人工智能用自己的信念取代源文本内容时，就会发生这种情况。现有的 SelfCheckGPT 等方法无法检测 DI-CC，因为虚假信息在重采样中是稳定的。虽然上下文感知解码可以缓解 DI-CC，但它会严重损害分解过程，尤其是在处理复杂指代时，使其不适合部署。