PulseAugur
中
实时 01:46:43
实体 Resk

Resk

PulseAugur coverage of Resk — every cluster mentioning Resk across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
9
90 天内 12
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
关系
时间线
  1. 2026-10-17 product_launch An open-source LLM firewall named Resk was released to protect against indirect prompt injection attacks. 来源
  2. 2026-09-07 product_launch Resk has launched a self-hosted LLM firewall. 来源
情绪 · 30 天

5 天有情绪数据

最近 · 第 1/1 页 · 共 12 条
  1. RESEARCH · CL_335082 ·

    LLM 中继面临可靠性和成本审查;代理安全最佳实践出现 · 跟踪 10 个来源

    一篇发表在 arXiv 上的研究调查了第三方大型语言模型 (LLM) API 中继的可靠性,测试了 20 个提供 GPT-6 Astra 和 Claude Opus-5 的中继。研究发现,在答案质量和工具权限违规方面,多个中继之间存在显著的行为差异,一些中继报告的输入 token 数量远超官方 API。同时,arXiv 上的另一篇论文介绍了 EquiRouter,这是一种新的 LLM 路由器,旨在通过优先选择成本较低的模型来执行等效任…

  2. TOOL · CL_333286 ·

    新型 LLM 防火墙 'Resk' 推出,以防止提示注入攻击

    一款名为 Resk 的新型开源 LLM 防火墙已被开发出来,用于保护像 Qonto 这样的服务免受提示注入攻击和敏感数据暴露。Resk 在应用程序和 LLM 提供商之间充当代理,提供基于角色的访问控制 (RBAC)、可编辑的过滤策略和 logits 级过滤等功能。本教程演示了如何使用 Docker 或脚本在本地部署 Resk,如何使用 OpenAI 或 Ollama 等 LLM 提供商进行配置,以及如何定义具有特定功能的角色以防止未经…

  3. TOOL · CL_325813 ·

    AI代理安全:在工具边界控制LLM操作

    AI代理安全侧重于控制LLM系统的操作,而不仅仅是其输出。最佳实践强调在工具边界实施访问控制,而不是仅仅依赖于提示级别的防御。关键机制包括为每个工具配置凭证范围以及记录所有调用参数以监控滥用尝试。

  4. TOOL · CL_318099 ·

    AI 代理的安全性取决于工具边界控制,而非提示词

    保护 AI 代理的安全需要实施工具边界的访问控制,而不是依赖模型的提示词进行安全防护。推荐的方法包括在执行前对调用者进行身份验证,授权特定的工具使用和资源访问,并记录所有工具调用及其参数和结果。这种在 LLM 外部强制执行的分层安全模型,确保权限范围限定在调用者和请求的资源内,即使模型被操纵也能防止未经授权的操作。

  5. COMMENTARY · CL_315963 ·

    LLM 在 Godot 编码方面接受测试;发布 AI 代理安全指南

    Flockbay 发布的一项新基准测试了多个大型语言模型生成 Godot Engine 代码的能力,其中 Claude Opus 5.5、Claude Sonnet 5.5 和 GPT-6.1 Sol 均完成了 15 项任务中的 15 项。Claude Haiku 4.5 最初完成了 15 项任务中的 11 项,之后在修正后完成了 14 项。该基准测试还探讨了现实世界中的游戏开发场景,在复杂构建方面,Opus 5.5 的表现优于 GP…

  6. TOOL · CL_305444 ·

    新的开源防火墙Resk保护LLM免受提示注入攻击

    一款名为Resk的新开源工具已发布,旨在帮助保护AI应用程序(如旅行规划助手)免受间接提示注入攻击。这种防火墙解决方案可以部署在任何兼容OpenAI的LLM之前,以添加基于角色的访问控制、基于策略的过滤和提供商路由。本教程演示了如何设置Resk,使用OpenAI、vLLM和Ollama等不同的LLM后端进行配置,并定义角色和过滤策略以降低恶意网络内容的风险。

  7. RESEARCH · CL_301702 ·

    AI 安全、可审计性和新前沿模型探索 · 跟踪 4 个来源

    开发人员正在探索增强 AI 安全性和可审计性的新方法。一种方法是使用 ReskPoints 来记录、屏蔽和审计由 LLM 驱动的支持代理,以防止个人身份信息 (PII) 泄露,Cdiscount 已对此进行了演示。另一种策略侧重于对 AI 助手流量进行六步检查,该检查源自创始人分享的指标,用于监控使用情况。此外,Meta 推出了 Muse Wonder 和 Muse Wonder (Full),这是一系列专为特定应用设计的前沿模型。

  8. TOOL · CL_283062 ·

    AI 代理:安全工具访问和监控最佳实践详解

    dev.to 的这一系列文章讨论了实施 AI 代理访问控制和监控的最佳实践。核心信息强调,安全应在工具调用边界强制执行,而不是依赖模型本身,因为模型容易受到提示注入的影响。关键原则包括对调用者进行身份验证,根据身份和任务授权操作,以最小权限执行,并详细记录所有决策以供审计。RESK 平台被提出作为一种解决方案,为这些 AI 代理安全问题提供强制执行和监控功能。

  9. TOOL · CL_277574 ·

    新型防火墙工具保护客服LLM免遭个人身份信息泄露

    一款名为Resk的新型开源工具已被开发出来,用作客服AI助手的防火墙,防止个人身份信息(PII)泄露。该工具使用FastAPI和React构建,位于用户和LLM提供商之间,提供基于角色的访问控制(RBAC)、策略过滤和工具门控等功能。本教程演示了如何部署Resk以保护敏感客户数据不被恶意提示或受损的工具访问泄露。

  10. TOOL · CL_239937 ·

    Resk 发布自托管 LLM 防火墙,增强安全性

    Resk 发布了一款自托管 LLM 防火墙,旨在增强 OpenAI 兼容提供商的安全性。该防火墙使用 FastAPI 和 React 构建,通过实施强大的身份验证、具有能力位掩码的角色访问控制 (RBAC) 以及可定制的过滤策略,解决了提示注入、数据泄露和未经授权访问等风险。该系统可以通过 resklogits 在 logits 级别强制执行策略,提供比传统输入/输出过滤更高级别的防御。

  11. TOOL · CL_129760 ·

    ReskSecure 库在 Logits 层面阻止 LLM 越狱

    Resk 发布了 reskSecure,这是一个 Python 库,旨在防止生产环境中 LLM 系统的提示注入和越狱攻击。与过滤输出文本的传统方法不同,reskSecure 在 logits 层面运行,在模型采样危险 token 之前拦截并阻止它们。这种方法通过在生成前修改 token 概率,旨在防止敏感数据泄露、未经授权的 API 调用和有害内容的生成。

  12. TOOL · CL_113569 ·

    新的开源工具以 GPU 速度阻止 LLM 越狱

    一款名为 resk-logits 的新开源工具已被开发出来,通过在 token 生成过程中拦截和抑制 logit 级别的有害输出,来增强 LLM 的安全性。这个 GPU 加速的 Aho-Corasick 引擎可以在一毫秒内处理超过 10,000 个模式,从而避免了传统后生成过滤器相关的 token 浪费和延迟峰值。该工具通过对将完成被禁止短语的 token 进行“影子封禁”来运行,为对抗越狱技术提供了一种更有效的方法。