OpenAI 使用过去的 AI 聊天记录来测试新模型的安全性

OpenAI 开发了一种名为部署模拟的新方法，用于在公开发布前测试 AI 模型。该技术涉及将一个新发布的 AI 模型与一个已部署模型的精选历史对话相结合。然后分析新 AI 的响应，以识别潜在的不良行为，例如撒谎或推广有害内容。虽然不能完全保证安全，但该方法旨在提高 AI 与人类价值观的一致性，并有望被其他 AI 开发商采纳。 AI

影响 这种新的测试方法有望在未来 AI 部署中带来更强大的 AI 安全措施，并更好地与人类价值观保持一致。

排序理由 文章描述了公司开发的一种新产品测试方法，而不是核心 AI 发布或研究突破。

在 Forbes — Innovation 阅读 →

• Deployment Simulation and Coiling Method Study of a Space Thin-Wall Deployable Boom
• Forbes
• generative artificial intelligence
• large-language models
• OpenAI

• 安全
• 产品

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →