Tool-call manipulation

AI安全在员工、客户和工程环境中面临复杂挑战

AI安全因其存在于不同的操作环境中而带来复杂的挑战，每个环境都有独特的故障模式和所有者。这些环境包括员工使用的软件即服务（SaaS）工具、检索数据并触发工作流的面向客户的系统，以及开发AI模型和数据的工程环境。身份、数据、权限和基础设施的相互关联造成了控制平面安全问题，因为风险可能在这些域之间传播。有效解决AI安全问题需要针对每个领域进行定制化治理：员工AI、客户AI和工程AI，并拥有明确的决策权和问责制，以在风险升级为事件之前进行管理。