Reddit 上的一场讨论探讨了开源 AI 模型被秘密破坏的可能性。用户辩论了恶意行为者是否能够训练模型，使其在遇到特定触发短语或日期时表现出有害行为或窃取数据。对话强调，虽然当前模型无法独立执行代码，但如果模型被设计有隐藏的后门，它们与工具的集成可能会实现此类秘密行为。 AI
影响 引发了对开源 AI 模型安全性和可信度的担忧，可能影响其在敏感应用中的采用。
排序理由 Reddit 上关于开源 AI 模型潜在安全漏洞的讨论。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>I was discussing with some other folks how safe is to use open weights models from China and the topic of "trojan horse" came up.</p> <p>We know that, at least with current architecture, models can't run code on their own. They are enti…