Haritz Puerto

新方法通过控制大型语言模型（LLM）的内部推理来增强其隐私性

研究人员开发了一种新方法，可以防止大型推理模型（LRM）泄露其内部思考过程中的敏感信息。该方法侧重于提高模型在整个推理过程中遵循指令的能力，从而减少隐私泄露。这通过一个监督微调数据集和一个称为分阶段解码（Staged Decoding）的解码策略来实现，该策略将推理过程生成与最终答案生成分开。评估显示，在遵循指令和隐私方面都有显著改进，尽管观察到任务效用有所权衡。