Rishikesh Mallagundla

新框架TopicScope可在LLM中实现令牌级主题监控

研究人员开发了一个名为TopicScope的新框架，用于训练因果主题分类器，该分类器可以在生成过程中为模型响应中的每个令牌分配一个主题。这些分类器在预填充阶段使用从稀疏自编码器（SAE）提取的特征进行训练，并在解码过程中表现出泛化能力。研究发现，这些主题监控器对插入的题外话或重排主题等扰动具有鲁棒性，并且使用SAE可以显著减小所需分类器的大小。