实体
OpenAI Moderation API
OpenAI Moderation API
PulseAugur coverage of OpenAI Moderation API — every cluster mentioning OpenAI Moderation API across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
文本到图像安全过滤器对非标准英语方言表现出偏见
一篇题为“并非对所有人都安全：文本到图像安全管线中的方言惩罚审计”的新研究论文发现，文本到图像安全护栏存在显著偏见。研究发现，这些过滤器不成比例地标记来自非标准英语方言的提示，这种现象被称为“方言惩罚”。这种偏见源于文本处理阶段，在该阶段，方言特征被错误地识别为有害，导致不同方言的标记率不均。研究表明，这个问题与不平衡的训练数据有关，可以通过分组平衡的再训练来缓解。
-
Mistral AI 发布 Shieldstral，一款新的自托管内容审核模型
Mistral AI 发布了 Shieldstral，这是一款拥有 30 亿参数的开放权重安全分类器。与传统模型不同，Shieldstral 可以在推理时解释审核策略。本指南将 Shieldstral 与 Llama Guard 和 OpenAI 的 Moderation API 进行比较，并详细介绍自托管命令和用例。