Singapore AI Laboratory

Google DeepMind 试点双盲 AI 评估以防止模型作弊

Google DeepMind 开发了一种新颖的方法来对先进的 AI 模型进行双盲评估，以防止 AI 代理或开发人员作弊。该方法利用 Google Cloud 的 Confidential Computing 创建一个安全环境，其中测试提示和模型权重均不向任何一方透露。该试点项目与新加坡 AI Laboratory 和 MLCommons 等合作伙伴合作，旨在确保 AI 模型性能评估的完整性和可信度。