一位用户尝试使用 Anthropic 的 Claude Opus 模型来保护其个人 Web 应用程序，在四小时内输入了大约 1 亿个 token 来审查安全措施。尽管付出了巨大的努力，一位安全研究人员在 23 分钟内就发现了该应用程序中的一个关键漏洞、五个高危漏洞和九个中危漏洞。用户得出结论，该模型未能使该应用程序防黑客攻击。 AI
影响 展示了 LLM 在复杂安全审计任务中的当前局限性，表明人工监督仍然至关重要。
排序理由 用户生成的关于商业 LLM 在特定任务中表现的报告，突出了其局限性。[lever_c_demoted from research: ic=1 ai=0.7]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
