reskSecure
PulseAugur coverage of reskSecure — every cluster mentioning reskSecure across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Resk-Security 推出开源大语言模型防火墙以阻止有害 token
Resk-Security 发布了 reskSecure，这是一款新的开源工具，旨在通过在 token 生成前的 logits 层面进行过滤来增强大语言模型（LLM）的安全性。这种预防性方法旨在阻止有害 token 被采样，不同于在生成后过滤输出的传统方法。该工具利用能力位掩码系统，根据用户定义的策略对特定 token 进行惩罚或阻止，提供 HARD（无法生成）和 BIAS（可配置惩罚）等模式。reskSecure 可以集成到 Pyt…
-
新型位掩码防火墙增强 LLM 安全性
reskSecure 项目推出了一种新颖的基于位掩码的防火墙，旨在增强大型语言模型 (LLM) 的安全性。这种方法旨在提供强大的防御机制，以应对 LLM 应用中固有的潜在威胁和漏洞。开发重点是创建一个可以集成到现有 LLM 框架中的实用安全解决方案。
-
ReskSecure 库在 Logits 层面阻止 LLM 越狱
Resk 发布了 reskSecure，这是一个 Python 库，旨在防止生产环境中 LLM 系统的提示注入和越狱攻击。与过滤输出文本的传统方法不同，reskSecure 在 logits 层面运行，在模型采样危险 token 之前拦截并阻止它们。这种方法通过在生成前修改 token 概率，旨在防止敏感数据泄露、未经授权的 API 调用和有害内容的生成。
-
RESK Security 推出 Logit 级别的大语言模型安全工具
RESK Security 开发了两款新工具 resk-logits 和 reskSecure，旨在通过在 token 被采样之前干预 Logit 级别来增强大语言模型的安全性。这些工具旨在通过修改 token 概率来防止有害内容的生成，与传统的输出扫描方法相比，提供了一种主动的方法。这两款工具均可通过 Python Package Index 获取，并在 GitHub 上开源。
-
模型蒸馏攻击构成日益增长的 AI 安全威胁
模型蒸馏攻击，即小型模型从大型模型输出中学习，构成了一种未被充分认识到的 AI 系统安全威胁。这些攻击可以绕过安全对齐，导致模型生成有害内容，尽管其“教师”模型有安全防护措施。此外，蒸馏还可以通过使攻击者能够以更低的成本复制高性能模型来促进知识产权盗窃，并且可以通过发布看似无害但随后被恶意更新的蒸馏模型来污染 AI 供应链。resk-logits 和 reskSecure 等运行时安全工具通过在 logits 层面过滤危险 token…
-
Anthropic的Mythos 5已获授权，Fable 5将回归；OpenAI推出GPT-5.6系列
近期发展，特别是Anthropic的模型和OpenAI的新发布，已显著重塑了AI格局。Anthropic的先进网络安全模型Mythos 5已获得美国政府授权，将向100多家机构发布，尽管此前存在监管担忧。然而，其此前被美国出口管制指令下线的“安全”公开版本Claude Fable 5，预计将很快回归，这凸显了政治对前沿模型可用性日益增长的影响力。与此同时，OpenAI推出了其GPT-5.6系列，包含三个层级：Sol用于旗舰性能，Ter…