一位用户正在寻找经济实惠的本地大型语言模型 (LLM) 推荐，该模型能够高效地与 PDF 文档进行聊天和分析。他们正在寻找能够提供比目前使用的 16GB M2 Mac Mini 更快响应速度的机器的硬件建议和功耗估算，因为他们发现目前的机器对于这项任务来说太慢了。他们的预算在 600-1000 欧元之间，但如果需要更好的性能，他们愿意增加预算。 AI
影响 识别出用户对更高效的本地 LLM 部署以进行文档分析的需求，可能推动对优化硬件和软件解决方案的需求。
排序理由 用户对现有 AI 技术的特定应用进行查询。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<!-- SC_OFF --><div class="md"><p>My dad and I want an llm that can scan pdfs and get the useful data out of it at a reasonable speed and be able to chat with it about those documents.</p> <p>What kind of hardware would be best for this and what kind of power usage would a machin…