Chaudhuri et al.

研究人员开发 GPU 侧信道方法来验证 LLM 训练 FLOPs

研究人员正在开发一种方法，利用侧信道 GPU 读数来验证大型语言模型（LLM）的训练 FLOPs，旨在为评估前沿人工智能模型提供一种可量化的方式。该方法建立在 EpochAI 等机构现有工作的基础上，结合了功耗监测和实时利用率数据。该项目使用 Nvidia Jetson Orin Nano 来模拟 LLM 训练工作负载，并观察功耗和内存带宽利用率等信号。这项技术可以实现对人工智能训练计算的独立验证，填补了当前人工智能政策和国际协议中的空白。