eBay US

AI爱好者以266美元的价格为游戏PC添加了吵闹的Nvidia Tesla V100

一位AI爱好者成功地将一款老旧、嘈杂的Nvidia Tesla V100 GPU集成到其游戏PC中，以增强本地大型语言模型（LLM）的推理能力。这次升级仅花费266美元，通过使用适配器重新利用企业级GPU并修改其嘈杂的冷却系统，将系统的显存翻倍至32GB。修改后的设置现在能够以每秒32个token的速度运行一个270亿参数的模型，这足以满足交互式使用的需求。