实体 OCP FP8

OCP FP8

PulseAugur coverage of OCP FP8 — every cluster mentioning OCP FP8 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_342507 · Nov 5 · 06:16

llama.cpp 0.9.0 增强本地语音 AI，但 Windows 音频延迟依然存在

最新发布的 llama.cpp 版本 0.9.0 带来了本地语音处理的重大改进，包括对 Chatterbox TTS 和 Nemotron 3.5 Transcribe 的支持。此次更新引入了 OCP FP8 E4M3 量化以支持更大模型，并增强了统一 KV 缓存以提升多序列性能。尽管这些进步简化了本地 TTS 和 STT 流程，但 Windows 上实时应用的主要瓶颈仍然是操作系统音频捕获路径，这会引入相当大的延迟。