开发人员被敦促测试AI直接从源代码执行命令的能力，包括潜在的敏感操作，如文件删除或读取。这凸显了一个关键的安全问题，即AI工具可能会绕过必要的权限。号召性用语强调了开发人员认真对待AI安全的紧迫需求，并超越随意的实施。 AI
影响 凸显了AI工具中潜在的安全漏洞，这些漏洞可能导致对用户系统的未经授权的操作。
排序理由 这是一篇评论文章，敦促在AI安全风险方面保持谨慎和进行测试。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Note: Just test this yourself by placing instructions in your source code and ask it to do something around those files. Let it create a script file or build command to execute commands that otherwise need permission for; delete or read files in your home. Let's start taking # se…