实体
Intel Iris Xe Graphics
Intel Iris Xe Graphics
PulseAugur coverage of Intel Iris Xe Graphics — every cluster mentioning Intel Iris Xe Graphics across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的 VPU v10.13 在 Intel iGPU 上通过并行处理加速 LLM 代理
一位开发者创建了 VPU v10.13，这是一个并行处理引擎，旨在增强大语言模型（LLM）的顺序性。这个向量处理单元运行在 Intel Iris Xe 集成显卡上，可以同时探索数千个并行路径，解决了 LLM 在游戏树搜索或多分支逻辑等复杂任务中的局限性。VPU 通过 LangChain 与 LLM 代理集成，形成一个“潜意识加速器”，其中 LLM 处理顺序思考，VPU 并行探索可能性。
-
超极本因显存限制难以本地运行 LLM
在配备如 Core i5-1345U 等节能处理器的超极本上本地运行大型语言模型（LLM）面临显著的硬件限制，主要原因是集成显卡可用的显存有限。虽然这些笔记本电脑专为通用生产力设计，但尝试使用它们进行本地 LLM 推理需要仔细管理系统资源，例如限制上下文长度并使用像 Llama 3 8B 的 Q4 或 Q5 格式等经过大量量化的模型。即使进行了这些优化，性能也仅属一般，对于 8B 模型，速度约为每秒 2-4 个 token，仅适用于基…