FairCompressAgent

新框架优化AI模型压缩以用于FPGA部署

研究人员开发了FairCompressAgent (FCA)，一个旨在优化模型压缩以部署在现场可编程门阵列 (FPGA) 上的新框架。FCA集成了剪枝、量化和分解等各种压缩技术，由一个语言模型规划器管理，该规划器根据用户对准确性、公平性和部署成本的要求来选择配置。实验表明，FCA可以显著减小存储空间，同时提高准确性和公平性指标，在效率方面优于其他搜索方法。