AI Engineer World’s Fair

AMP创始人表示，AI扩展依赖于效率，而非仅仅是更多的GPU

AMP创始人Anjney Midha认为，AI扩展的争论应侧重于最大化现有GPU的效率，而不是仅仅购买更多GPU。他指出，前沿AI实验室通常在较低的模型浮点运算利用率（MFU）下运行，有些运行的MFU低于10%，远低于GPT-3的21%或PaLM的46%等历史基准。Midha强调，AI开发日益成为一个系统性问题，涉及调度、网络和数据管道，而AMP旨在创建一个计算网格，能够像电网一样高效地分配计算能力。