Resk

新的开源工具以 GPU 速度阻止 LLM 越狱

一款名为 resk-logits 的新开源工具已被开发出来，通过在 token 生成过程中拦截和抑制 logit 级别的有害输出，来增强 LLM 的安全性。这个 GPU 加速的 Aho-Corasick 引擎可以在一毫秒内处理超过 10,000 个模式，从而避免了传统后生成过滤器相关的 token 浪费和延迟峰值。该工具通过对将完成被禁止短语的 token 进行“影子封禁”来运行，为对抗越狱技术提供了一种更有效的方法。