Continuous Compilation

Together AI发布多态推理，实现AI模型自适应部署

Together AI推出了一项名为多态推理（Polymorphic Inference）的新研究议程，旨在应对AI模型、架构和硬件的快速演变。这种方法与适用于不那么动态环境的传统静态推理（Static Inference）形成对比。多态推理旨在创建自适应推理系统，这些系统可以利用AI代理和持续编译（Continuous Compilation）等技术不断进行自我优化，以应对开源模型发布速度的加快和多样化的流量形态。