Just Vision

llama.cpp Just Vision 优化旧 GPU 以支持多模态 AI

llama.cpp 项目推出了一项名为 Just Vision 的新功能，旨在优化旧款或低规格 GPU 在多模态 AI 任务中的使用。该功能允许用户将视觉投影（mmproj）组件卸载到辅助 GPU 上，从而显著加快处理速度，而不影响核心推理速度。这种方法对于显存有限的用户尤其有利，可以在代理编码等应用中实现更快的性能。