CourseChat

校园AI辅导CourseChat评估企业教育的LLM权衡

研究人员开发了CourseChat，一个用于本科企业教育的本地RAG辅导系统，并集成了Moodle。该系统利用Ollama和FastAPI提供的本地LLM，重点关注校园部署的软硬件权衡。初步评估表明，虽然一些大型模型在速度要求方面遇到困难，但一个12B模型和一个7B模型是可行的，最终选择了一个8B的生产模型，因为它在性能和准确性之间取得了平衡。