一位AI用户认为，在本地大型语言模型中优化原始推理速度是错误的。他们提倡一种更具交互性的方法，类似于指导初级助理，用户可以引导LLM的思考过程，以防止错误并促进学习。他们认为，这种方法比依赖可能导致不透明或不正确输出的“一次性”方法更具成效。 AI
影响 建议在软件开发和维护中使用LLM时，采取一种更具协作性而非全自动化方法。
排序理由 社交媒体平台上用户关于AI使用方法的观点文章。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
You're doing AI wrong. Visiting r/LocalLLaMa shows people cutting down model fidelity to get faster and faster inference (tokens per second of output). You don't need the LLM to output data faster than you can read - because following the model's "thought"-process is how you stop…