Microsoft Research 发布了 mimalloc,这是一个开源内存分配器,专为现代高并发应用程序和大型内存占用而设计,尤其适用于涉及大型语言模型的场景。作为 malloc 和 free 的即插即用替代品,它通过原子操作提供有限的分配时间、低碎片化和最小的争用。mimalloc 最初是为 Microsoft 的 Lean 和 Koka 编程语言开发的,后来已集成到 Bing 等各种 Microsoft 服务以及 CPython 3.13+ 和 Unreal Engine 等外部项目中。 AI
影响 通过优化内存分配来增强 AI 应用程序的性能和可扩展性。
排序理由 研究部门发布开源软件组件。[lever_c_demoted from research: ic=1 ai=0.7]
- CPython
- free
- GitHub
- large language models
- Lean
- Bing
- Microsoft Research
- mimalloc
- malloc
- Unreal Engine
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →