GTX 770

旧NVIDIA Kepler GPU得以复活，用于现代LLM推理

一个技术项目已成功使现代大型语言模型（LLMs）运行在旧的NVIDIA Kepler GPU上，具体来说是一块GTX 770，这些GPU通常被认为已经过时。这是通过修补专有的NVIDIA驱动程序以支持更新的Linux内核编译，并修改CUDA库中的特定指令来绕过初始化错误来实现的。此举旨在减少电子垃圾，并通过延长旧硬件在AI推理任务中的使用寿命来展示实际的系统工程能力。