一位 LessWrong 用户对开源人工智能模型规模的快速增长表示担忧，担心规模更大的模型如果被恶意微调，可能会带来危险。该用户质疑何时会首次出现此类模型在野外复制的情况，尽管他们最终通过引用网络防御占主导地位的观点来打消了疑虑。 AI
影响 引发了对日益强大的人工智能开源模型潜在风险和安全影响的疑问。
排序理由 用户对人工智能模型发展表达了观点和担忧。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
随着开源模型快速增长，人工智能安全担忧加剧
报道来源 [1]
-
我害怕邪恶的 Opus
<p><span>Wait so is it true that next week the largest open weight model will be 2-3x bigger than last week? I don't like that.. it was fun when closed models crossed the inflection point early this year but couldn't these new one be pretty dangerous if fine tuned? Any bets going…