实体
AVX-512
AVX-512
PulseAugur coverage of AVX-512 — every cluster mentioning AVX-512 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
关系
最近 · 第 1/1 页 · 共 2 条
-
Spring AI和JEP 489支持更快、更便宜的本地LLM重排
本文详细介绍了一种通过对检索到的文档进行本地重排来优化检索增强生成（RAG）性能的方法。文章提倡使用Java的JEP 489 Vector API进行SIMD加速的相似性计算，并将BGE-Reranker-v2-m3等量化交叉编码器模型直接部署在Spring Boot应用程序中。这种方法旨在降低将重排任务发送到外部LLM API所带来的延迟和成本。
-
PHP-ORT 为 PHP 开发者带来机器学习推理能力
一个名为 PHP-ORT 的新基础设施项目旨在将机器学习推理能力直接引入 PHP，PHP 是网络上很大一部分使用的服务器端语言。这一发展旨在使数百万 PHP 开发者能够在不依赖外部服务或切换编程语言的情况下，将 AI 功能集成到他们的应用程序中。PHP-ORT 提供核心 Tensor API、高性能数学库，并与 ONNX 集成以实现直接推理，有望显著提速。