PulseAugur
中
实时 15:27:54
实体 Microsoft Phi-3.5

Microsoft Phi-3.5

PulseAugur coverage of Microsoft Phi-3.5 — every cluster mentioning Microsoft Phi-3.5 across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_335324 ·

    使用量化技术在 4GB RAM 上本地运行强大的 LLM

    本教程详细介绍了如何在内存仅为 4GB 的系统上本地运行功能强大的小型语言模型 (SLM)。它通过建议使用 Llama 3.2 3B 或 Microsoft Phi-3.5/Phi-4 Mini 等优化 SLM,解决了 LLM 高内存需求的常见挑战。该指南解释了如何使用 GGUF 等格式将模型权重量化到 4 位精度,从而在不显著降低性能的情况下大幅减小内存占用。它提供了使用 Ollama 和 llama.cpp 等工具进行配置和高效运…