Alveo U50C

SymbolicLight V2 在语言推理方面实现了 27.6% 的能耗降低

研究人员开发了 SymbolicLight V2，这是一种专为低能耗语言推理设计的混合神经形态架构。该更新模型通过引入分级符号事件和新颖的局部注意力机制，增强了其前身 SymbolicLight V1。在 Alveo U50C FPGA 上的实现证明了每生成一个 token 的能耗显著降低，降低了 27.6%。此外，在 ARM CPU 上运行时，与 GPU 基线相比，该系统显示出可观的节能效果，突显了事件稀疏性在减少计算和数据移动方面的优势。