两起独立的与AI代理及其与用户数据交互相关的安全漏洞已被强调。第一个问题涉及AI代理由于幻影工具链而不是模型限制而在其初始操作阶段失败，这表明代理提出的操作与其实际执行环境之间存在脱节。第二个漏洞涉及数据泄露，其中两个共享存储的ChatGPT账户允许一个用户访问另一个用户的私人信息，包括电子邮件和云存储内容。 AI
影响 突显了AI代理执行和数据处理中的关键安全缺陷，可能影响用户信任和企业采用。
排序理由 该集群讨论了AI代理和ChatGPT中的安全漏洞，这些是产品相关问题，而不是前沿发布、研究或重大行业事件。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
The first fifteen minutes of an agent loop usually die on phantom toolchains, not on weak models. I refuse the session until the runtime prints a hashed manifest of the tools it can actually execute. That one gate is the only developer-experience fix that kept surviving contact w…
Two ChatGPT accounts shared the storage where the code runs. One instruction planted in a session was enough to read the other user's mail, Drive, Teams and GitHub. Why the sandbox is not the boundary, and what to check on Monday. # ai # security # agents # llm # software # codin…