PulseAugur
实时 17:31:13
English(EN) Budget llm for chatting and analysing pdf documents

用户寻求经济型 LLM 以实现快速 PDF 分析和聊天

一位用户正在寻找经济实惠的本地大型语言模型 (LLM) 推荐,该模型能够高效地与 PDF 文档进行聊天和分析。他们正在寻找能够提供比目前使用的 16GB M2 Mac Mini 更快响应速度的机器的硬件建议和功耗估算,因为他们发现目前的机器对于这项任务来说太慢了。他们的预算在 600-1000 欧元之间,但如果需要更好的性能,他们愿意增加预算。 AI

影响 识别出用户对更高效的本地 LLM 部署以进行文档分析的需求,可能推动对优化硬件和软件解决方案的需求。

排序理由 用户对现有 AI 技术的特定应用进行查询。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Connect-Page-8174 ·

    用于聊天和分析PDF文档的预算型大语言模型

    <!-- SC_OFF --><div class="md"><p>My dad and I want an llm that can scan pdfs and get the useful data out of it at a reasonable speed and be able to chat with it about those documents.</p> <p>What kind of hardware would be best for this and what kind of power usage would a machin…