Google DeepMind 推出了 VaultGemma，一个拥有10亿参数、从头开始使用差分隐私训练的语言模型。此次发布伴随的研究详细介绍了差分隐私大语言模型的新缩放定律，这些定律解决了隐私、效用和计算成本之间的权衡问题。研究结果表明，隐私方面的最佳训练涉及使用比通常采用的更小的模型和更大的批次大小。VaultGemma 的权重已在 Hugging Face 和 Kaggle 上公开提供，以促进私有 AI 的进一步发展。 AI
排序理由 发布了一个开源模型，并附有关于其训练方法的配套研究论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
