PulseAugur
中
实时 08:57:03
English(EN) GPT-6 reportedly jailbroken within 24 hours using an extended Task-in-Prompt (TIP) attack

据报道，GPT-6 在发布 24 小时内被越狱

作者 PulseAugur 编辑部 · [2 个来源] ·

据报道，一名研究人员在 GPT-6 Astra 发布后 24 小时内，利用一种先进的提示内任务 (TIP) 攻击成功越狱了该模型。该方法是对 ACL 2025 论文中详述的技术的扩展，它将有害目标隐藏在看似无害的任务中。该研究人员已私下向 OpenAI 披露了这些发现，并指出原始的 TIP 攻击需要对 GPT-6 进行大量返工。此次事件紧随同一研究人员在 GPT-5 发布后不久对其进行的类似越狱。 AI

影响 凸显了先进 AI 模型潜在的漏洞，强调了 AI 对齐和安全方面持续的挑战。

排序理由 该集群讨论了据称的模型越狱事件，但缺乏模型开发者 (OpenAI) 的直接确认或公告，并且依赖于一名研究人员的报告。

在 r/OpenAI 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

据报道，GPT-6 在发布 24 小时内被越狱

本文如何被排名

Signal score
3 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Commentary
该集群讨论了据称的模型越狱事件，但缺乏模型开发者 (OpenAI) 的直接确认或公告，并且依赖于一名研究人员的报告。
Source corroboration
2 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
safety, model release
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [2]

  1. Mastodon — mastodon.social TIER_1 English(EN) · [email protected] ·

    🤖 GPT-6 据报在24小时内被利用扩展的任务提示（TIP）攻击成功越狱 研究人员报告称GPT-6 Astra在一天内被越狱

    🤖 GPT-6 reportedly jailbroken within 24 hours using an extended Task-in-Prompt (TIP) attack A researcher has reported a jailbreak of GPT-6 Astra within a day after release. The attack is described as combination of TIP (Task-in-Prompt) attack from ACL 2025 paper with four other u…

  2. r/OpenAI TIER_2 English(EN) · /u/Asleep-Requirement13 ·

    据报道，GPT-6 在 24 小时内被利用扩展的提示内任务 (TIP) 攻击成功越狱

    <!-- SC_OFF --><div class="md"><p>A researcher has <a href="https://www.linkedin.com/posts/s-berezin_llm-aialignment-aisecurity-activity-7502013488412680192-IO6c/">reported</a> a jailbreak of GPT-6 Astra within a day after release.</p> <p>The attack is described as combination of…

相关实体

相关话题