RegLLM

新框架应对AI代理治理和安全挑战

两篇新研究论文介绍了几种用于管理企业AI代理的框架。VeriWeave Govern专注于一个确定性的运行时治理层，该层根据版本化的策略评估代理行为并验证证据，在评估中实现了高准确率和零误放。RegLLM提出了一个用于有限自主性的诊断工具包，用于衡量可信度信号，如引用有效性和宪法一致性，并展示了配置差异如何影响代理指标。第三项讨论了AgentKernel，一个原生信任操作系统，旨在强制执行AI代理生命周期中的安全原则，包括身份、感知、认知和执行。