llama.cpp 项目发布了 b11756 版本，改进了其服务器功能。具体来说，它现在通过 Anthropic /v1/messages 转换传递 id_slot，确保更好地处理 KV 缓存并防止不必要的预填充。此更新还添加了一个测试来验证 id_slot 功能。另外，arXiv 上发布了两篇新的研究论文：一篇探讨了具有链式思考推理的 transformer 如何发现像 Heavy-Ball 这样的加速算法，另一篇介绍了 VampPrior，一种用于深度潜在变量模型的增强先验分布，可改进单细胞整合和聚类。 AI
影响 新的研究探索了 transformer 中的算法发现和改进的潜在变量模型，而 llama.cpp 则增强了其 AI 推理的服务器功能。
排序理由 集群包含 arXiv 上的两篇新研究论文和一次软件发布。
在 Hugging Face Daily Papers 阅读 →
- Anthropic
- arXiv
- b11756
- Dirichlet process
- Hugging Face
- llama.cpp
- transformers
- /v1/messages
- VampPrior
- Xuan Son Nguyen
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →
