PulseAugur
中
实时 01:30:47
实体 reskSecure

reskSecure

PulseAugur coverage of reskSecure — every cluster mentioning reskSecure across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
9
90 天内 18
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
关系
时间线
  1. 2026-07-21 product_launch Resk-Security launched reskSecure, an open-source LLM security firewall. 来源
  2. 2026-07-07 product_launch Resk has released the reskSecure library for preventing LLM jailbreaks. 来源
情绪 · 30 天

5 天有情绪数据

最近 · 第 1/1 页 · 共 18 条
  1. TOOL · CL_350639 ·

    新的reskSecure工具在令牌级别阻止LLM提示注入

    一款名为reskSecure的新型安全工具已被开发出来,用于对抗针对大型语言模型的间接提示注入攻击,特别是那些用于旅行助手等应用程序的模型。该工具通过在令牌级别强制执行权限位掩码来运行,阻止模型生成禁止的短语或未经授权的工具调用。这种方法充当了一个硬性边界,在恶意指令嵌入的抓取网页内容影响模型的输出或操作之前就将其阻止。

  2. RESEARCH · CL_335082 ·

    LLM 中继面临可靠性和成本审查;代理安全最佳实践出现 · 跟踪 10 个来源

    一篇发表在 arXiv 上的研究调查了第三方大型语言模型 (LLM) API 中继的可靠性,测试了 20 个提供 GPT-6 Astra 和 Claude Opus-5 的中继。研究发现,在答案质量和工具权限违规方面,多个中继之间存在显著的行为差异,一些中继报告的输入 token 数量远超官方 API。同时,arXiv 上的另一篇论文介绍了 EquiRouter,这是一种新的 LLM 路由器,旨在通过优先选择成本较低的模型来执行等效任…

  3. TOOL · CL_325813 ·

    AI代理安全:在工具边界控制LLM操作

    AI代理安全侧重于控制LLM系统的操作,而不仅仅是其输出。最佳实践强调在工具边界实施访问控制,而不是仅仅依赖于提示级别的防御。关键机制包括为每个工具配置凭证范围以及记录所有调用参数以监控滥用尝试。

  4. TOOL · CL_325486 ·

    reskSecure推出LLM防火墙以防止PII泄露

    一款名为reskSecure的新型安全工具已被推出,用于保护客户支持AI助手免遭敏感数据泄露。该工具充当LLM防火墙,在令牌预测级别阻止禁止的短语和未经授权的工具调用,然后才生成它们。本教程演示了如何通过定义具有权限位掩码的策略并将logits处理器加载到生成管道中来集成reskSecure。

  5. TOOL · CL_318099 ·

    AI 代理的安全性取决于工具边界控制,而非提示词

    保护 AI 代理的安全需要实施工具边界的访问控制,而不是依赖模型的提示词进行安全防护。推荐的方法包括在执行前对调用者进行身份验证,授权特定的工具使用和资源访问,并记录所有工具调用及其参数和结果。这种在 LLM 外部强制执行的分层安全模型,确保权限范围限定在调用者和请求的资源内,即使模型被操纵也能防止未经授权的操作。

  6. COMMENTARY · CL_315963 ·

    LLM 在 Godot 编码方面接受测试;发布 AI 代理安全指南

    Flockbay 发布的一项新基准测试了多个大型语言模型生成 Godot Engine 代码的能力,其中 Claude Opus 5.5、Claude Sonnet 5.5 和 GPT-6.1 Sol 均完成了 15 项任务中的 15 项。Claude Haiku 4.5 最初完成了 15 项任务中的 11 项,之后在修正后完成了 14 项。该基准测试还探讨了现实世界中的游戏开发场景,在复杂构建方面,Opus 5.5 的表现优于 GP…

  7. TOOL · CL_299007 ·

    AI 代理安全:将重点从提示词转移到工具权限

    这组文章讨论了 AI 代理的安全性,强调主要漏洞不在于提示词操纵,而在于授予代理的广泛权限。核心问题是,代理(将模型与工具执行循环结合起来)可能被不可信的输入引导,滥用其现有凭据和工具。建议的解决方案是在工具边界实现每次调用的授权,确保每次工具调用都根据调用者身份、工具范围和任务上下文进行严格策略评估,并采取默认拒绝策略。

  8. TOOL · CL_296784 ·

    新的reskSecure工具在生成层面阻止LLM越狱

    一个名为reskSecure的新Python包已被开发出来,用于增强用于自动化内容审核的大型语言模型(LLM)的安全性。该工具充当防火墙,在logits层面运行,以在禁止的短语或恶意工具调用发生之前阻止它们的生成。该包允许开发人员定义自定义策略,根据分配给用户或进程的位掩码来指定哪些短语被阻止以及允许哪些工具操作。

  9. TOOL · CL_283062 ·

    AI 代理:安全工具访问和监控最佳实践详解

    dev.to 的这一系列文章讨论了实施 AI 代理访问控制和监控的最佳实践。核心信息强调,安全应在工具调用边界强制执行,而不是依赖模型本身,因为模型容易受到提示注入的影响。关键原则包括对调用者进行身份验证,根据身份和任务授权操作,以最小权限执行,并详细记录所有决策以供审计。RESK 平台被提出作为一种解决方案,为这些 AI 代理安全问题提供强制执行和监控功能。

  10. TOOL · CL_249957 ·

    reskSecure 推出位掩码防火墙以实现 LLM 访问控制

    reskSecure Python 包通过实现一个 64 位权限位掩码防火墙,引入了一种新颖的 LLM 安全方法。该系统将代理功能和用户权限编码到位中,直接在模型的生成循环中强制执行,以防止禁止的短语和不安全工具的调用。与基于提示或后生成过滤的方法不同,reskSecure 在令牌级别进行干预,将 logits 设置为负无穷大或应用惩罚,在不允许的操作发生之前进行阻止。该系统利用声明式 YAML 策略文件来定义与特定位掩码相关的规则和…

  11. TOOL · CL_249825 ·

    新的 Python 包 reskSecure 可作为 LLM 防火墙阻止越狱

    一个名为 reskSecure 的新 Python 包已被开发出来,用作大型语言模型 (LLM) 的防火墙,旨在防止越狱和提示注入。与依赖提示工程或后生成过滤的传统方法不同,reskSecure 直接干预模型的 token 生成循环。它利用一个 64 位权限位掩码来控制 LLM 被允许输出的内容,将 logits 设置为负无穷以进行硬性阻止或对偏差应用惩罚,从而增强安全性。

  12. TOOL · CL_237210 ·

    新的reskSecure方法在令牌级别阻止LLM越狱

    一种名为reskSecure的新安全方法已被开发出来,用于防止针对LLM代理的提示注入攻击。与依赖提示过滤或后生成审核的传统方法不同,reskSecure在令牌级别于模型的生成循环内运行。它使用位掩码来强制执行权限,在生成不允许的短语和工具调用之前进行阻止或惩罚,从而防止敏感信息泄露。

  13. TOOL · CL_154737 ·

    Resk-Security 推出开源大语言模型防火墙以阻止有害 token

    Resk-Security 发布了 reskSecure,这是一款新的开源工具,旨在通过在 token 生成前的 logits 层面进行过滤来增强大语言模型(LLM)的安全性。这种预防性方法旨在阻止有害 token 被采样,不同于在生成后过滤输出的传统方法。该工具利用能力位掩码系统,根据用户定义的策略对特定 token 进行惩罚或阻止,提供 HARD(无法生成)和 BIAS(可配置惩罚)等模式。reskSecure 可以集成到 Pyt…

  14. TOOL · CL_139690 ·

    新型位掩码防火墙增强 LLM 安全性

    reskSecure 项目推出了一种新颖的基于位掩码的防火墙,旨在增强大型语言模型 (LLM) 的安全性。这种方法旨在提供强大的防御机制,以应对 LLM 应用中固有的潜在威胁和漏洞。开发重点是创建一个可以集成到现有 LLM 框架中的实用安全解决方案。

  15. TOOL · CL_129760 ·

    ReskSecure 库在 Logits 层面阻止 LLM 越狱

    Resk 发布了 reskSecure,这是一个 Python 库,旨在防止生产环境中 LLM 系统的提示注入和越狱攻击。与过滤输出文本的传统方法不同,reskSecure 在 logits 层面运行,在模型采样危险 token 之前拦截并阻止它们。这种方法通过在生成前修改 token 概率,旨在防止敏感数据泄露、未经授权的 API 调用和有害内容的生成。

  16. TOOL · CL_114443 ·

    RESK Security 推出 Logit 级别的大语言模型安全工具

    RESK Security 开发了两款新工具 resk-logits 和 reskSecure,旨在通过在 token 被采样之前干预 Logit 级别来增强大语言模型的安全性。这些工具旨在通过修改 token 概率来防止有害内容的生成,与传统的输出扫描方法相比,提供了一种主动的方法。这两款工具均可通过 Python Package Index 获取,并在 GitHub 上开源。

  17. COMMENTARY · CL_113656 ·

    模型蒸馏攻击构成日益增长的 AI 安全威胁

    模型蒸馏攻击,即小型模型从大型模型输出中学习,构成了一种未被充分认识到的 AI 系统安全威胁。这些攻击可以绕过安全对齐,导致模型生成有害内容,尽管其“教师”模型有安全防护措施。此外,蒸馏还可以通过使攻击者能够以更低的成本复制高性能模型来促进知识产权盗窃,并且可以通过发布看似无害但随后被恶意更新的蒸馏模型来污染 AI 供应链。resk-logits 和 reskSecure 等运行时安全工具通过在 logits 层面过滤危险 token…

  18. SIGNIFICANT · CL_113562 ·

    Anthropic的Mythos 5已获授权,Fable 5将回归;OpenAI推出GPT-5.6系列

    近期发展,特别是Anthropic的模型和OpenAI的新发布,已显著重塑了AI格局。Anthropic的先进网络安全模型Mythos 5已获得美国政府授权,将向100多家机构发布,尽管此前存在监管担忧。然而,其此前被美国出口管制指令下线的“安全”公开版本Claude Fable 5,预计将很快回归,这凸显了政治对前沿模型可用性日益增长的影响力。与此同时,OpenAI推出了其GPT-5.6系列,包含三个层级:Sol用于旗舰性能,Ter…