实体 Roman Belaire

Roman Belaire

PulseAugur coverage of Roman Belaire — every cluster mentioning Roman Belaire across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_300892 · Oct 15 · 04:00

新的分层强化学习方法增强了大型语言模型红队测试能力

研究人员开发了一种新的方法，将大型语言模型（LLM）的红队测试视为一个分层强化学习问题。该方法能够模拟复杂的、多轮次的对抗性攻击，旨在最大化累积损害。该系统使用令牌级别的损害奖励来学习各种攻击策略，成功识别出传统方法所忽略的漏洞，并在LLM安全测试方面树立了新的行业标杆。