ShadowBanProcessor

新库保护患者预约聊天机器人免受提示注入攻击

一个名为 resk-logits 的新库提供了一种方法来保护像 Doctolib 使用的患者预约聊天机器人免受提示注入攻击。该库利用 GPU 加速的 Aho-Corasick 算法，实时惩罚与危险 token 相关的 logits，有效防止它们被语言模型采样。这种方法比传统的后生成过滤器提供了更强大的安全措施，因为后者可能太慢而无法阻止敏感信息被泄露。