实体
3D XPoint
3D XPoint
PulseAugur coverage of 3D XPoint — every cluster mentioning 3D XPoint across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
关系
最近 · 第 1/1 页 · 共 2 条
-
万亿参数大模型利用英特尔Optane内存复活
一个拥有万亿参数的大型语言模型已成功利用英特尔Optane内存重新启用。这种创新的方法利用旧硬件来运行复杂的人工智能模型，展示了智能再利用现有技术的潜力。该项目强调了人工智能的进步如何得到硬件利用方面的创造性解决方案的支持。
-
Reddit用户使用768GB二手Optane内存运行1万亿参数LLM
一位Reddit用户通过利用768GB的二手Intel Optane持久内存模块作为RAM，成功在一台单GPU工作站上本地运行了一个1万亿参数的LLM，具体为Kimi K2.5。该设置实现了每秒约4个token的性能，考虑到硬件的预算限制，这被认为是一个令人印象深刻的性能。已停产Optane DIMM的使用突显了为大型语言模型推理提供经济实惠、大容量内存解决方案的潜在市场缺口，尤其是在DRAM价格波动的情况下。