用户正在进行测试，以确定AI模型在通过文件上传等第三方输入进行提示时是否以及如何做出反应。到目前为止，已测试的七个模型中有六个显示出响应。虽然这些反应可能不代表可利用的安全漏洞，但能够引发第三方反应是值得注意的。 AI
影响 突显了通过间接输入产生意外AI模型交互的潜力。
排序理由 用户生成的关于AI模型在第三方输入下行为的测试。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
AI模型在安全测试中响应第三方输入
报道来源 [1]
-
人工智能：我正在进行一系列测试，以检查模型在第三方输入（例如文件上传）中被提及时的响应方式，以及我测试中的7个模型
AI: I’m running a series of tests to check if and how models respond when being addressed in third-party input (e.g., file uploads), and of 7 models in my tests, 6 do respond so far. These must not necessarily be exploitable attack vectors, but what’s interesting is that you *can…