实体 Triad

Triad

PulseAugur coverage of Triad — every cluster mentioning Triad across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_74391 · Jun 6 · 04:00

新框架指导LLM代理修改计划，提高安全性

研究人员开发了TRIAD，一个用于LLM代理的新框架，该框架集成了Guardrail以提高安全性和实用性。与仅仅阻止不安全操作的传统Guardrail不同，TRIAD提供反馈以指导代理修改其计划，使其能够保留良性任务同时避免有害部分。实验表明，TRIAD显著降低了攻击成功率，并提供了比现有方法更好的安全-效用权衡。