一篇新论文探讨了提示设计对设备端大语言模型(LLMs)能耗的影响。研究人员在一款智能手机上进行了实验,测量功耗以了解不同提示措辞如何影响能源效率。研究发现,语言特征,如祈使句关键词和指令结构,显著影响解码长度和总体能耗,表明提示工程是优化设备端大语言模型性能的可行方法。 AI
影响 提示工程为提高资源受限设备上大语言模型的能源效率提供了一种轻量级方法。
排序理由 这是一篇详细介绍大语言模型能耗实证研究的学术论文。
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- Large Language Models
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →