Claim-based Stream Decoding

新的C-SafeGen算法提供认证安全LLM生成

研究人员开发了C-SafeGen，这是一种确保大型语言模型（LLM）生成的内容符合安全法规的新算法。这种称为基于声明的流式解码（CSD）的方法，集成了流式防护栏模型和回溯机制，以修订被标记为高安全风险的声明。CSD为安全生成提供了理论保证，并包括一个认证框架，为安全风险提供高概率的上限，从而可以控制到任何所需的水平。实证评估表明，与现有的安全解码方法相比，CSD有效且高效。