文章《开放权重，封闭思想：AI 透明度究竟需要什么》认为，仅发布模型权重（一种被称为“开放权重”的做法）不足以实现真正的 AI 透明度。虽然这允许用户在不依赖企业云的情况下本地运行模型，但它模糊了关于训练数据、微调过程和嵌入价值观的关键细节。作者将此与 OLMo 和 Pythia 等真正开放的 AI 项目进行了对比，这些项目提供了对其训练数据和管道的完全可见性，并指出商业压力常常阻碍这种透明度。文章强调，像 Common Crawl 这样的主要训练数据来源的倾斜性质，导致模型具有一种“文化重心”，过度代表了西方、英语使用者和学术界的观点，可能边缘化其他形式的知识。 AI
影响 强调了超越模型权重的更深层次 AI 透明度的需求，影响用户和研究人员如何评估和信任 AI 系统。
排序理由 该集群讨论了一篇关于 AI 透明度和“开放权重”模型局限性的观点文章，而不是新的发布或研究发现。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
What goes in to these AI models we download and run locally? Interesting reading: Open Weights, Closed Minds: What AI Transparency Actually Requires "Six months ago I pulled a local language model onto my laptop. Took about 12 minutes with Ollama. No account, no API key, no data …
Open Weights, Closed Minds: What AI Transparency Actually Requires Six months ago I pulled a local language model onto my laptop. Took about 12 minutes with Ollama. No account, no API key, no data leaving the machine. It felt like a small act of sovereignty — exactly the kind of …