一个具有 2048 个 token 上下文窗口的微调 ModernBERT 模型正在生产环境中使用,用于识别 OCR 后医疗文档中的提示注入尝试。这种方法正作为一种零样本探测器,用于评估大型语言模型 (LLM) 的安全防护措施。该微调的小型语言模型 (SLM) 的有效性正与另一个称为 Jevíčko 的系统进行比较。 AI
影响 这项研究探索了增强 LLM 安全性和检测提示注入等漏洞的方法。
排序理由 该集群讨论了一种用于评估 LLM 安全特性的具体技术方法(微调模型),属于研究范畴。
在 Medium — fine-tuning tag 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →