Shir Rozenfeld

GAVEL框架通过激活监控引入基于规则的AI安全

研究人员推出GAVEL，一个通过基于规则的激活监控来增强AI安全的新框架。该方法将LLM激活建模为可组合成特定规则的细粒度“认知元素”，提高了现有方法的精度和可解释性。GAVEL能够实时检测细微行为，并允许在不重新训练模型的情况下定制安全措施，从而提高AI治理的透明度和可审计性。该项目包括开源代码和一个名为GAVEL Studio的规则创作工具。