Resk-Security
PulseAugur coverage of Resk-Security — every cluster mentioning Resk-Security across labs, papers, and developer communities, ranked by signal.
-
Resk-Security 推出开源大语言模型防火墙以阻止有害 token
Resk-Security 发布了 reskSecure，这是一款新的开源工具，旨在通过在 token 生成前的 logits 层面进行过滤来增强大语言模型（LLM）的安全性。这种预防性方法旨在阻止有害 token 被采样，不同于在生成后过滤输出的传统方法。该工具利用能力位掩码系统，根据用户定义的策略对特定 token 进行惩罚或阻止，提供 HARD（无法生成）和 BIAS（可配置惩罚）等模式。reskSecure 可以集成到 Pyt…
-
RESK Security 发布 TypeScript 和 Python 的开源 LLM 安全工具包
RESK Security 发布了两个开源库：resk-llm-ts 用于 TypeScript，Resk-LLM 用于 Python，旨在保护大型语言模型 (LLM) 应用免受各种安全威胁。这些库充当中介件，位于用户请求和 LLM 端点之间，用于检测和阻止恶意输入，例如提示注入、越狱和个人身份信息 (PII) 泄露。每个库都提供 11 种不同的威胁检测器，包括 PII 扫描、数据泄露防护和毒性过滤器，可以单独启用或禁用。这些工具旨在…
-
Resk-Security 发布 Node.js LLM 安全工具包
Resk-Security 发布了 resk-llm-ts，这是一个新的 TypeScript 工具包，旨在保护 Node.js 大型语言模型 (LLM) 应用程序免受安全威胁。该工具包提供 11 种威胁检测器，以解决提示注入、越狱和个人身份信息 (PII) 泄露等问题。它与 Express 和 Hono 等流行的 Node.js 框架集成，为以前在 JavaScript 生态系统中缺乏强大选项的开发人员提供了一个安全解决方案。
-
新的开源工具在 Logits 层过滤 LLM 越狱
Resk-Security 发布了 resk-logits，一个开源的 Python 库，旨在通过在 Logits 层进行过滤来防止大型语言模型 (LLM) 越狱。这种方法在有害 token 生成之前进行拦截，不同于传统的在生成后扫描输出的方法。该库利用 GPU 加速的 Aho-Corasick 算法，在一毫秒内扫描超过 10,000 个不允许的模式，为 LLM 安全提供了更强大、更快速的方法。
-
新工具resk-logits提供主动式Logit级LLM安全防护
一款名为resk-logits的新开源工具通过在Logit层面进行干预，在token被采样之前，提供了一种主动式LLM安全防护方法。与对生成文本做出反应的传统审计和护栏不同，resk-logits会拦截模型的概率分布，以阻止有害的token序列。这种方法使用GPU加速的Aho-Corasick模式匹配来实现，延迟极低，并能更有效地防御越狱和数据污染。
-
ReskPoints Python logger 简化 AI Agent 的调试和监控
ReskPoints 是一个新推出的 Python 库，旨在帮助开发者调试和监控 AI Agent。它提供了一个简单的装饰器，可以自动追踪函数调用，为复杂的 Agent 操作提供结构化日志记录和可观测性。该工具提供采样、敏感数据屏蔽以及导出到各种平台的多重导出等功能，旨在通过深入了解 Agent 的行为来改进 AI 治理。