SQRL Jungle Cat

Qwen 3.5 LLM 使用 eBay 挖矿硬件在 FPGA 上实现

一位用户使用 INT4 量化技术，在现场可编程门阵列 (FPGA) 上实现了 Qwen 3.5 大型语言模型。该项目利用相对廉价的 eBay 挖矿硬件，特别是 SQRL FK33 和 Jungle Cat 板卡，来实现 LLM 推理。对 Qwen 3.5 9B 模型的初步测试表明，在 75MHz 下的推理速度约为 2 tokens/秒，并预计 27B 模型在多卡设置和优化 RTL 下将实现显著更高的性能。