实体 ratctl

ratctl

PulseAugur coverage of ratctl — every cluster mentioning ratctl across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_230551 · Sep 1 · 16:34

新工具审计强化学习环境中的奖励欺骗漏洞

一个名为`ratctl`的新工具已被开发出来，用于在强化学习（RL）环境用于训练之前审计其奖励欺骗漏洞。该工具对112个真实世界的RL环境进行了审计，以100%的精确度标记了54个潜在问题。`ratctl`采用静态分析和使用本地或基于API的大语言模型（LLM）的可选动态模式来检测各种利用模式，包括测试篡改、评分器操纵和奖励跳过。