OpenAI 已暂停其即将推出的 Astra 模型的训练，原因是担心其先进的网络安全能力可能被用于黑客攻击。该模型展示了自主发现零日漏洞的能力。作为回应，OpenAI 正在实施更严格的安全协议，包括将模型与互联网隔离、增强代码安全性以及引入一个能在 30 分钟内检测到可疑行为的监控系统。这些措施旨在确保模型在任何潜在发布前的安全性。 AI
影响 凸显了开发高级 AI 能力的挑战，尤其是在网络安全领域，以及部署前需要健全安全措施的必要性。
排序理由 前沿实验室模型发布，附带详细说明安全暂停的系统卡。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 5 个来源。 我们如何撰写摘要 →
OpenAI baut Schutzwälle gegen die eigene KI. Das neue Modell Astra hat so starke Cyber-Fähigkeiten, dass es beim Training gestoppt wurde. Es läuft nun in isolierten Sandboxes ohne Internet. Das interne Monitoring kostet 20 Prozent zusätzliche Rechenleistung. # OpenAI # Astra # AI…
📰 OpenAI Overhauls Safety Protocols After Its AI Agents Went Rogue The ChatGPT maker says its upcoming Astra model may have reached “critical” cyber capabilities, prompting it to halt a significant number of training runs while it tightens internal safeguards. 📰 Source: Feed: All…
Spekulacje o premierze GPT-6 przybierają na sile. OpenAI testuje model Astra, który wykazuje zdolności do autonomicznych operacji cybernetycznych, zmuszając firmę do wdrożenia bezprecedensowych zabezpieczeń. # si # ai # sztucznainteligencja # wiadomości # informacje # technologia…
OpenAI stoppt Training seines Astra-Modells wegen potenziell kritischer Cyberangriffs-Fähigkeiten und führt ein Monitoring-System ein, das verdächtiges Modellverhalten binnen 30 Minuten meldet. Das betrifft direkt die Frage, wie Frontier-Labs Fähigkeitssprünge vor Release testen …
OpenAI reveals upcoming Astra model may have “critical” hacking capabilities OpenAI's new model Astra poses potential "Critical" cybersecurity risks—it can discover zero-day exploits autonomously. While excelling at complex math, OpenAI is implementing safeguards: restricting web…