实体
AutoModelForCausalLM
AutoModelForCausalLM
PulseAugur coverage of AutoModelForCausalLM — every cluster mentioning AutoModelForCausalLM across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的 Python 包 reskSecure 可作为 LLM 防火墙阻止越狱
一个名为 reskSecure 的新 Python 包已被开发出来，用作大型语言模型 (LLM) 的防火墙，旨在防止越狱和提示注入。与依赖提示工程或后生成过滤的传统方法不同，reskSecure 直接干预模型的 token 生成循环。它利用一个 64 位权限位掩码来控制 LLM 被允许输出的内容，将 logits 设置为负无穷以进行硬性阻止或对偏差应用惩罚，从而增强安全性。
-
新的reskSecure方法在令牌级别阻止LLM越狱
一种名为reskSecure的新安全方法已被开发出来，用于防止针对LLM代理的提示注入攻击。与依赖提示过滤或后生成审核的传统方法不同，reskSecure在令牌级别于模型的生成循环内运行。它使用位掩码来强制执行权限，在生成不允许的短语和工具调用之前进行阻止或惩罚，从而防止敏感信息泄露。
-
新的开源工具可在 logits 层面拦截 LLM 越狱
一款名为 resk-logits 的新开源工具已发布，通过在 token 被采样之前，在 logits 层面拦截有害内容，从而增强 LLM 的安全性。该 GPU 加速处理器使用 Aho-Corasick 算法扫描整个词汇表以查找恶意模式，将匹配 token 的 logits 设置为负无穷以实现硬拦截，或在“影子禁令”模式下应用惩罚。它使用 CUDA 和 Metal 后端开发，开销低于毫秒，并兼容任何 Hugging Face Auto…