Redstart-Nest

开发者发布 Redstart，一个集成本地 LLM 的自托管 AI 服务器

一位开发者创建了 Redstart，一个旨在集成各种本地 AI 组件的自托管 AI 服务器。Redstart-Nest 以 llama.cpp 的一个分支为核心构建，旨在为其他应用程序提供兼容 OpenAI 的 API，并管理模型、客户端身份验证和工具集成。该项目还包括具有本地文件管理功能的客户端 Redstart-Twig，以及利用 Redstart 作为其 AI 基础设施的 VS Code 代理 Yellowscript。