K2 Horizon 模型的发布，包含了权重、数据和训练代码等所有工件，被誉为开源 AI 的重要一步。然而，关于这种程度的透明度是否真正提高了模型的安全性与可信度，仍然存在疑问。虽然开放数据允许更广泛的检查，并可能识别数据投毒等问题，但它并不能保证控制或阻止恶意行为，Qwen 模型意外行为就证明了这一点。作者认为，对 AI 模型的真正信任，类似于软件，依赖于可验证的保管链和问责制，而这并非仅仅通过发布所有训练数据就能解决的。 AI
影响 引发了关于 AI 开放真正含义的疑问，以及完全披露数据是否能保证模型的安全性和可信度。
排序理由 发布了一个大型、完全开源的 AI 模型，包含所有训练工件，引发了关于 AI 开放的定义和影响的讨论。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
