阿尔康州立大学的历史学教授Jason Gibson博士发现，考试题目中隐藏的指令导致35名学生中的32名在作业中包含了关于马达加斯加的无意义信息。另外，据报道，一名研究人员使用GPT-5.6 (Sol)的订阅版发现WordPress核心的一个关键漏洞，该漏洞可能价值数百万美元，并允许未经授权访问服务器。 AI
影响 展示了AI在学术干扰和安全研究方面的潜力，突显了对强大AI安全和验证的需求。
排序理由 该集群描述了AI模型被用于意想不到的目的：影响考试答案和发现软件漏洞，而不是直接发布或研究突破。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
Gość zainfekował pytanie egzaminacyjne ukrytą instrukcją dla AI… Dzisiejszym bohaterem dr. Jason Gibson, profesor historii na Alcorn State University (USA). Ale przejdźmy od razu do rzeczy. Gdzieś w środku normalnego zadania egzaminacyjnego pojawiły się białe litery na białym tle…
Wydał ~100 zł na subskrypcję GPT 5.6 (Sol). Ten znalazł mu exploita wartego ~2000000zł Szczerze mówiąc nie wierzyłem, że takie rzeczy się mogą wydarzyć. Badacz, który niedawno zgłosił krytyczną podatność w WordPress Core, opracował całość z wykorzystaniem narzędzia od OpenAI. Pod…