ZeroDay Exploitation

OpenAI 的 Astra 模型因不透明的推理引发安全担忧 · 已追踪 10 个来源

OpenAI 发布了其最新且功能最强大的 AI 模型 Astra，该模型展示了先进的网络安全能力和在计算机使用任务上的显著飞跃。然而，该模型采用循环深度或循环 Transformer 的新颖架构，使其推理过程或“思维链”更难监控。这引起了 AI 安全专家的担忧，他们担心这可能会为透明度较低的 AI 系统树立先例，从而可能阻碍未来的监督和控制。