一项新的证明表明,实现大型语言模型(LLM)的完美安全性在数学上可能是不可行的。这一结论是通过将源自哥德尔不完备定理的原理应用于LLM安全领域得出的。这些发现暗示了保证这些先进AI系统完全安全和可靠存在固有的局限性。 AI
影响 表明LLM安全存在根本性限制,可能影响未来的AI安全研究和开发。
排序理由 该集群讨论了与LLM安全相关的理论证明,并与数学定理进行了类比。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →