Tug of Watts

研究揭示医疗领域大语言模型能效-准确性权衡

一项题为“Tug of Watts”的新研究，专门针对医疗问答任务，调查了大语言模型（LLMs）的能耗和碳足迹。该研究分析了三个模型家族的13个LLMs，参数范围从2.7亿到140亿不等，以理解准确性和能源使用之间的权衡。研究结果表明，仅报告单独的能耗和准确性指标不足以进行全面评估，并倡导开发和解释联合权衡指标，以指导从业者更可持续地采用LLMs。