实体 ExLlamaSharp

ExLlamaSharp

PulseAugur coverage of ExLlamaSharp — every cluster mentioning ExLlamaSharp across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

时间线

2026-08-29 product_launch Kortexio released the beta version 1.2.1 of ExLlamaSharp, a local LLM server. 来源

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_224551 · Aug 29 · 01:34

ExLlamaSharp v1.2.1-beta 添加了 OpenAI 兼容 API 和 EXL3 推理

Kortexio 发布了 ExLlamaSharp v1.2.1-beta，这是一个支持 NVIDIA GPU 的 Windows 本地 LLM 服务器。此 beta 版本引入了 OpenAI 兼容的 API 端点、Blazor 管理界面以及增强的 EXL3 推理功能。主要更新包括 LoRA 适配器的实时 CRUD 操作、多 GPU 支持和 ONNX 嵌入，但建议在生产环境中使用稳定的 v1.1.1 安装。