Humpty

OCaml通过新的ocaml-deepseek库在本地集成DeepSeek LLM

一位OCaml开发者创建了一个名为ocaml-deepseek的新库，该库将DeepSeek的开放权重LLM直接集成到OCaml应用程序中。这允许本地、进程内推理，绕过了对外部API的需求，并使开发人员能够使用OCaml函数作为工具来构建代理循环。该库利用了Dwarfstar，一个支持Apple Metal的C语言推理引擎，使其适用于拥有大量RAM的高端Mac。