实体
C++20
C++20
PulseAugur coverage of C++20 — every cluster mentioning C++20 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
vLLM 服务堆栈已移植到 C++20,实现更小、无 Python 的推理
一位开发者创建了 vLLM 服务堆栈的 C++20 版本,名为 vllm.cpp,旨在提供更轻量级、更易于嵌入的推理解决方案。此新实现拥有显著减小的二进制文件大小(66 MiB),并且在运行时消除了对 Python 和 PyTorch 的需求,解决了依赖臃肿和供应链安全问题。性能基准测试表明,vllm.cpp 在更高的并发级别上与 vLLM 相比具有竞争力,同时还显示出更低的峰值 GPU 内存使用量。
-
新的 C++ 库 libhmm 提供准确的 HMM 参数估计
一个名为 libhmm 的新 C++20 库已被开发用于隐马尔可夫模型 (HMM),解决了缺乏维护良好、可嵌入的 C++ HMM 软件的问题。它通过为各种连续和离散分布实现准确的最大似然估计器,纠正了 Baum-Welch 算法发射分布 M 步中常用的近似方法。该库还具有用于前向-后向和 Viterbi 算法的对数空间计算、SIMD 加速和 Python 绑定,其性能已通过与现有库和 R 包的比较得到验证。