granite-3.3-8b

新的“apostate”算子可降低 LLM 拒绝率，影响极小

一种名为“对比共向量”（contrastive co-vector）的新算子已被开发用于“apostate”工具，旨在降低语言模型的拒绝率，同时最大限度地减少对无害行为的影响。该方法包括拟合一个预测器来重现无害方差，同时明确抑制有害提示。在“granite-3.3.8b”模型上进行的测试显示，拒绝率从 96.0% 显著降低到 5.0%，无害 KL 散度仅略微增加到 0.081 nats。