ALTSTEER

新的ALTSTEER框架改进了大型语言模型的安全性能，超越了硬性拒绝

研究人员开发了ALTSTEER，一个新颖的推理时框架，旨在增强大型语言模型的安全对齐。该系统旨在超越简单的硬性拒绝，通过选择性地干预生成过程，引导模型转向建设性、安全的替代方案。在Llama-3.1和Qwen2.5模型上的评估表明，ALTSTEER在良性请求上能有效保持效用，同时提高模型提供有用、安全响应的能力，尤其是在可能导致僵硬拒绝的有害提示方面。