Reddit的r/LocalLLaMA社区正在讨论公司内部自托管AI模型的实际应用。用户正在询问部署的具体模型类型，从小型专业模型到大型微调版本，以及影响这些选择的因素。讨论中强调的关键决策驱动因素包括成本、隐私、延迟、模型质量、合规性、供应商风险和操作简便性，重点关注实际部署而非实验性设置。 AI
影响 深入了解公司在部署自托管AI解决方案时当前实际考虑的因素和选择。
排序理由 用户讨论实际AI部署策略和决策因素。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>I’m curious what people are seeing in real deployments, not hobby testing.</p> <p>Are teams mostly using smaller models because they’re good enough for the workflow, or because they fit the hardware/cost constraints better?</p> <p>For companies r…