实体
OpenAI Moderation
OpenAI Moderation
PulseAugur coverage of OpenAI Moderation — every cluster mentioning OpenAI Moderation across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的 D^2-Monitor 系统增强了扩散式大语言模型的安全性
研究人员推出了一种新颖的 D-LLMs 安全监控系统 $D^2$-Monitor。该系统解决了扩散式大语言模型（D-LLMs）监控的独特挑战，D-LLMs 通过多步过程生成文本，暴露了中间表示。$D^2$-Monitor 将“安全犹豫”——即中间状态反复接近探测器的决策边界——识别为潜在探测器失败的关键指标。它采用动态路由机制，仅当犹豫水平超过阈值时才激活资源密集型探测器，从而优化效率。
-
Sentra-Guard 系统针对对抗性 LLM 提示实现了 99.96% 的检测率
研究人员开发了 Sentra-Guard，一个旨在防御针对大型语言模型（LLM）的对抗性提示的实时系统。该系统采用混合方法，结合语义嵌入和 Transformer 分类器来识别和中和越狱和提示注入攻击。Sentra-Guard 通过翻译非英语提示进行评估，展现了多语言弹性，并包含一个人工反馈机制以实现持续学习。