Scenario-Actor

新框架根据沟通场景调整LLM的温度参数

研究人员开发了一个名为Scenario-Actor的新框架，以改进大型语言模型（LLMs）选择其采样温度（控制输出随机性）的方式。与使用固定或token级别调整的传统方法不同，Scenario-Actor从模型的隐藏状态推断情境特征，以确定最佳温度。该方法在Llama-3.1-8B-Instruct上进行了测试，与现有方法相比，在社交场景、指令遵循和对话任务中表现出更好的性能。