MemoryPoisoningDetector
PulseAugur coverage of MemoryPoisoningDetector — every cluster mentioning MemoryPoisoningDetector across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Resk-LLM 工具包可保护自动化列表审核免受 LLM 越狱攻击
本教程演示了如何保护像 Leboncoin 使用的自动化列表审核系统免受复杂的越狱攻击。它介绍了 Resk-LLM，一个 Python 工具包，包含 11 个检测器，用于识别提示注入、内容框架、内存中毒和混淆技术。该指南涵盖了使用 FastAPI 中间件实施这些安全措施，并提供了用于清理输入和验证 LLM 输出的实用代码示例。
-
新的TypeScript工具包可对抗LLM对话摘要中的记忆中毒
一个名为resk-llm-ts的新TypeScript工具包已发布，旨在帮助开发人员保护对话摘要功能免受记忆中毒攻击。该工具包提供了一个SecurityPipeline，其中包含用于检测直接注入、绕过尝试、记忆中毒模式和内容框架的检测器。它还包括一个InputSanitizer和OutputValidator，以进一步保护摘要过程。这对于BlaBlaCar等服务尤其重要，因为攻击者可以通过将虚假信息注入摘要来操纵长对话线程。
-
新工具包保护患者预约聊天机器人免受提示注入攻击
一款名为 resk-llm 的新 Python 工具包已发布，旨在帮助开发人员保护像 Doctolib 使用的患者预约聊天机器人免受提示注入攻击。该工具包可通过 FastAPI 中间件集成，提供 11 种不同的检测器，在恶意输入到达语言模型之前对其进行识别和阻止。这些检测器通过分析消息是否存在直接注入、越狱、与已知攻击的语义相似性、框架操纵和访问违规等威胁，旨在防止数据泄露、服务中断和内存中毒等各种威胁。该工具包还支持多轮对话跟踪以检…
-
新的 TypeScript 库 resk-llm-ts 旨在对抗 LLM 提示注入
一个名为 resk-llm-ts 的新 TypeScript 库已发布，用于解决 LLM 应用中的提示注入漏洞。该库提供了一个 SecurityPipeline，其中包含 11 个检测器，旨在识别和阻止各种攻击向量，包括直接注入、越狱、内存中毒和内容框架。教程演示了如何将此管道作为中间件集成到 Express.js 应用程序中，以保护与 OpenAI 的 GPT-4 等模型交互的端点。