由清华大学校友创立的石石科技发布了Vectron,一个旨在提高AI计算效率的国产Token优化工厂。Vectron旨在通过优化各种国产芯片和模型的性能,解决中国大量AI算力利用不足的问题。该系统提供KV Cache压缩、全模态Token压缩和长上下文优化等功能,使企业能够进行更具成本效益和效率的AI运营。 AI
影响 提高企业AI计算的效率和成本效益,特别支持国产硬件生态系统。
排序理由 中国初创公司推出AI基础设施优化工具的产品发布。[lever_c_demoted from significant: ic=1 ai=0.7]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →