Shi Technology
PulseAugur coverage of Shi Technology — every cluster mentioning Shi Technology across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
石科技发布多模态服务,AI视频生成速度获提升
石科技推出了一项新的多模态模型服务,旨在加速AI视频生成并提高效率。该服务采用基于历史缓存残差的自适应加速技术,以减少冗余计算并控制误差累积,实现了高达2.48倍的速度提升。它还通过与SGLang集成的缓存管理机制优化资源利用,并采用模态自适应令牌压缩来降低理解多模态输入的计算开销。此外,基于全模态模型的Context Engine解决方案将理解结果构建为视频生成过程中的可操作信息,旨在弥合复杂多模态输入与结构化生成需求之间的差距。
-
是技术推出 TokenFleet 以提高 AI 推理效率
是技术发布了 TokenFleet,一个旨在优化 AI 推理 GPU 集群利用率的分布式调度框架。该框架通过关注请求路由、跨数据中心容量协调和混合工作负载治理来提高现有计算资源的效率。关键技术包括基于缓存收益和排队成本的实例选择的 TokenPilot、跨多个数据中心协调容量的 FleetMind,以及确保满足服务水平目标的混合工作负载管理的 SLOMax。
-
石科技发布Vectron Token优化工厂
石科技在2026世界人工智能大会上发布了国内首个Token优化工厂Vectron。该产品旨在通过将算力转化为稳定有效的Token来最大化算力效率。Vectron的设计目标是在相同的计算投入下产生更多有效Token,并在相同的内存分配下确保更稳定的长上下文运行。
-
智谱AI构建国产芯片的AI“电网”
智谱AI是一家由中国超级计算项目研究人员创立的初创公司,已开发出“智能算力网”来优化国产AI芯片的使用。他们的系统集成了包括NVIDIA GPU和中国AI加速器在内的各种异构计算资源,以标准化和高效地生产AI token。据报道,该平台通过优化推理过程并确保高可用性,将token生产成本降低了40%,并将吞吐量提高了高达50%。