robust steerability

受神经刺激启发的LLM控制方法提供了鲁棒的可控性

研究人员开发了一种新颖的方法，通过借鉴神经刺激的原理来控制大语言模型（LLM）。该方法将LLM的引导视为一个反馈控制问题，其中模型的内部状态决定干预措施，而不是依赖于固定的开环方法。提出的$H_ ext{inf}$控制器通过考虑模型不确定性和线性化不匹配来提高性能，尤其是在分布外场景下。此外，还引入了一个新的指标——鲁棒可控性（$S_{ ext{rob}}$）——来预评估控制器对动态不匹配的容忍度，该指标显示出任务特定的结构并随模型规模而变化。