PolicyMem

PolicyMem 引入几何记忆用于大语言模型治理

研究人员推出 PolicyMem，一个新颖的几何策略记忆系统，用于治理大语言模型 (LLM)。该系统将自然语言策略外化为可重用的几何记忆对象，由低秩子空间表示。PolicyMem 允许在检测、干预和验证阶段跨阶段一致地重用策略证据，从而实现大语言模型治理的检测-重写-验证循环。该系统在五个基准测试中检测不安全行为方面表现出最先进的性能，同时还促进了策略归因和干预后验证。