llama.cpp 项目发布了 b11795 版本,其中包括对其服务器功能的更新,支持 /v1/messages 的采样参数转发,并提高了与 macOS、Linux 和 Windows 等各种操作系统的兼容性,包括支持 ACL Graph 的 openEuler 特定构建版本。另外,一篇新研究论文提出了 Rationale Contrastive Decoding (RCD) 方法,以减轻 LLM 的 Chain-of-Thought 推理中的查询捷径问题,并在五个基准测试中展示了改进的答案准确性和对推理内容依赖性的增加。此外,还引入了 PhysSkin++ 框架,用于使用自监督神经蒙皮场进行实时、基于物理的动画,该框架能够跨不同几何形状进行泛化,而无需进行每个对象的训练。 AI
影响 LLM 推理和动画技术的进步可能带来更复杂的 AI 应用和创意工具。
排序理由 集群包括一篇关于 LLM 推理的研究论文、一个模型推理引擎的软件发布和一个新的动画框架。
- ACL Graph
- arXiv
- b11795
- Context-Aware Decoding
- Hugging Face
- KleidiAI
- llama.cpp
- openEuler
- PhysSkin++
- Rationale Contrastive Decoding
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →