Aho–Corasick algorithm
PulseAugur coverage of Aho–Corasick algorithm — every cluster mentioning Aho–Corasick algorithm across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Trie自动机加速LLM结构化输出生成
研究人员开发了一种名为Trie自动机的新方法，用于大型语言模型中的约束解码。该技术显著加快了生成必须遵守特定规则的结构化输出的过程，尤其是在从大型有效字符串集中进行选择时。与XGrammar等现有系统相比，Trie自动机实现了显著的性能提升，在批量服务吞吐量方面最高可提高29倍，并且编译时间也大大缩短。
-
新的开源工具可在 logits 层面拦截 LLM 越狱
一款名为 resk-logits 的新开源工具已发布，通过在 token 被采样之前，在 logits 层面拦截有害内容，从而增强 LLM 的安全性。该 GPU 加速处理器使用 Aho-Corasick 算法扫描整个词汇表以查找恶意模式，将匹配 token 的 logits 设置为负无穷以实现硬拦截，或在“影子禁令”模式下应用惩罚。它使用 CUDA 和 Metal 后端开发，开销低于毫秒，并兼容任何 Hugging Face Auto…
-
新库将 GPU 加速的惩罚应用于 LLM logits 以增强安全性
一个名为 ReskLogits 的新开源库已被开发出来，通过在 token 采样发生之前的 logits 层面进行干预来增强 LLM 的安全性。这种方法旨在通过实时对危险 token 应用惩罚来防止有害内容的生成，从而使攻击者更难利用提示注入漏洞。该库提供了一个 GPU 加速的 Aho-Corasick 算法，用于高效的模式匹配，并支持多级过滤，允许根据禁用短语的严重程度进行可配置的惩罚。
-
新的开源工具在 Logits 层过滤 LLM 越狱
Resk-Security 发布了 resk-logits，一个开源的 Python 库，旨在通过在 Logits 层进行过滤来防止大型语言模型 (LLM) 越狱。这种方法在有害 token 生成之前进行拦截，不同于传统的在生成后扫描输出的方法。该库利用 GPU 加速的 Aho-Corasick 算法，在一毫秒内扫描超过 10,000 个不允许的模式，为 LLM 安全提供了更强大、更快速的方法。
-
RESK Security 推出 Logit 级别的大语言模型安全工具
RESK Security 开发了两款新工具 resk-logits 和 reskSecure，旨在通过在 token 被采样之前干预 Logit 级别来增强大语言模型的安全性。这些工具旨在通过修改 token 概率来防止有害内容的生成，与传统的输出扫描方法相比，提供了一种主动的方法。这两款工具均可通过 Python Package Index 获取，并在 GitHub 上开源。
-
新的开源工具以 GPU 速度阻止 LLM 越狱
一款名为 resk-logits 的新开源工具已被开发出来，通过在 token 生成过程中拦截和抑制 logit 级别的有害输出，来增强 LLM 的安全性。这个 GPU 加速的 Aho-Corasick 引擎可以在一毫秒内处理超过 10,000 个模式，从而避免了传统后生成过滤器相关的 token 浪费和延迟峰值。该工具通过对将完成被禁止短语的 token 进行“影子封禁”来运行，为对抗越狱技术提供了一种更有效的方法。