实体 MTAG-Bench

MTAG-Bench

PulseAugur coverage of MTAG-Bench — every cluster mentioning MTAG-Bench across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_300944 · Oct 15 · 04:00

新数据集和模型旨在通过归因多轮故障来提高 LLM 安全性

研究人员开发了 MTAG-Bench，这是一个旨在评估大型语言模型 (LLM) 多轮安全故障的新数据集。该数据集包含 4,167 个对话，具有行为验证和逆事实监督，以查明导致不安全结果的证据。他们还推出了 MTAG-Probe，一个在回合级证据定位方面取得显著改进的模型，并且可以通过移除关键对话证据来改变不安全的 LLM 决策。