Actionable Policy schema

新的策略工具为GenAI启用可共享、可操作的安全规则

研究人员推出Granite.Trust Policy Tools，这是一个旨在为生成式AI应用创建可共享、可操作的安全策略的新框架。该系统通过引入Actionable Policy模式解决了传统访问控制的局限性，该模式是一种基于YAML的格式，用于指定模型响应中的内容约束。该模式支持基于异常的治理和策略违规跟踪。此外，该框架还包括一个合成数据生成管道，用于创建用于模型对齐和测试的对齐训练数据，从而在整个AI应用生命周期中实现一致的策略执行。