Tomek Korbak

OpenAI 的 Astra AI 发布引发对不透明架构的安全担忧

据报道，OpenAI 正在准备发布其新的人工智能模型 Astra，这引起了人工智能安全研究人员的极大担忧。主要担忧源于 Astra 可能使用了更不透明的“循环深度”或“循环 Transformer”架构，与传统的“思维链”模型相比，这可能使其决策过程更难监控。专家们担心，这种缺乏透明度可能会导致人工智能安全领域的“逐底竞争”，即开发者优先考虑性能而非可监控性，从而可能导致灾难性后果。