D1net

硅基流科技赋能央国企大模型部署

专注于AI基础设施的硅基流科技公司，正在帮助中国的国有企业（SOEs）大规模部署大语言模型。他们通过自主研发的推理引擎，专注于优化算力向“Token生产力”的转化。该方法涉及算力资源的统一管理、高效的模型部署和智能调度，以降低成本并提高硬件利用率。该公司在一个案例研究中展示了成功，其中一个国有企业集团通过整合模型和优化资源配置，显著降低了每百万Token的成本，并启用了新的业务场景。