一篇新研究论文提出,大型语言模型(LLMs)可以被训练成在不可靠的计算机硬件上具有容错能力。研究表明,随着模型规模的增大,其错误弹性实际上会增加,这可能通过在低能耗、有故障的硬件上运行AI推理来实现显著的节能。这一发现可能催生出正式的容错LLMs。 AI
影响 通过允许在不可靠但更节能的硬件上进行AI推理,可能实现显著的节能。
排序理由 研究论文,详细介绍了一种在不可靠硬件上训练LLMs以实现容错的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- CORE Recommender
- DagsHub
- Fault-tolerant foundation models
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- large language models
- Litmaps
- LLMs
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →