实体
BitmaskLogitsProcessor
BitmaskLogitsProcessor
PulseAugur coverage of BitmaskLogitsProcessor — every cluster mentioning BitmaskLogitsProcessor across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的reskSecure工具在令牌级别阻止LLM提示注入
一款名为reskSecure的新型安全工具已被开发出来，用于对抗针对大型语言模型的间接提示注入攻击，特别是那些用于旅行助手等应用程序的模型。该工具通过在令牌级别强制执行权限位掩码来运行，阻止模型生成禁止的短语或未经授权的工具调用。这种方法充当了一个硬性边界，在恶意指令嵌入的抓取网页内容影响模型的输出或操作之前就将其阻止。
-
新的reskSecure工具在生成层面阻止LLM越狱
一个名为reskSecure的新Python包已被开发出来，用于增强用于自动化内容审核的大型语言模型（LLM）的安全性。该工具充当防火墙，在logits层面运行，以在禁止的短语或恶意工具调用发生之前阻止它们的生成。该包允许开发人员定义自定义策略，根据分配给用户或进程的位掩码来指定哪些短语被阻止以及允许哪些工具操作。
-
reskSecure 推出位掩码防火墙以实现 LLM 访问控制
reskSecure Python 包通过实现一个 64 位权限位掩码防火墙，引入了一种新颖的 LLM 安全方法。该系统将代理功能和用户权限编码到位中，直接在模型的生成循环中强制执行，以防止禁止的短语和不安全工具的调用。与基于提示或后生成过滤的方法不同，reskSecure 在令牌级别进行干预，将 logits 设置为负无穷大或应用惩罚，在不允许的操作发生之前进行阻止。该系统利用声明式 YAML 策略文件来定义与特定位掩码相关的规则和…