Garima Kapoor

AI基础设施差距：存储而非仅GPU决定性能

人工智能行业正面临一个显著的基础设施差距，组织在GPU上投入巨资，却忽视了底层数据存储和网络架构。这种不平衡导致计算资源利用不足和AI项目停滞，因为遗留系统无法处理AI所需的持续数据移动。更有效的方法是使用更小、更专业的模型来将任务路由到最合适的AI，而不是将所有查询都发送给昂贵、强大的前沿模型。这种策略，尤其是在大规模应用中，可以通过确保合适的模型处理合适的工作来优化成本和性能，其中专业模型输出结构化数据供大型模型高效处理。