实体
RainbowPlus
RainbowPlus
PulseAugur coverage of RainbowPlus — every cluster mentioning RainbowPlus across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究解决多语言LLM毒性检测与缓解问题
两篇新研究论文探讨了在大型语言模型（LLM）中检测和缓解毒性的方法，特别关注多语言环境。第一篇论文调查了跨不同语言识别和减少有害输出的现有策略，强调了语言覆盖不均和有害定义具有文化特异性等挑战。第二篇论文介绍了ToxSearch-S，一种分布式进化搜索算法，旨在寻找引发毒性响应的对抗性提示，并通过MPI实现和改进的毒性检测与现有方法相比，展示了效率的提升。
-
PersonaTeaming通过支持面向角色的红队测试来增强AI安全性
研究人员开发了PersonaTeaming，这是一个用于红队测试生成式AI模型的新框架，它包含角色以增强对抗性提示生成。该方法旨在通过模拟多样化的人类视角来揭示更广泛的风险。该系统包括一个自动化工作流程和一个面向用户的交互界面，用于人机协作，用户研究发现该界面对行业从业者很有用。