一系列Mastodon帖子讨论了AI的基础设施和性能。其中一个帖子详细介绍了MCP搜索服务的成本，估计个人使用每月为7美元，而双区域Azure方案的报价为8,400美元。另一篇帖子强调了检索增强生成（RAG）系统的一个局限性，即可能找到正确的页面，但错过了具体的答案块，导致模型表示不知道。第三篇帖子比较了不同AI模型的准确性，认为路由策略和模型大小（特别是Laya、Kev-4B和GPT-5.4 nano）对性能有显著影响，其中一个模型将许多请求错误地归类为范围之外。 AI
影响 这些讨论突显了AI基础设施潜在的成本效益，并揭示了当前RAG和模型路由策略的局限性，指出了未来AI发展的方向。
排序理由 该集群包含多篇社交媒体帖子，讨论AI基础设施、RAG局限性和模型性能，属于对AI主题的评论。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
The same MCP search service: about US$7 a month as I run it (one warm Container App, 100,000 searches), about US$8,400 as a two-region Azure proposal (running standby, 1M searches, 100 GB of content; modeled, not deployed). Traffic explains little of it. https:// pournasserian.co…
A RAG index can return the right page and still miss the chunk with the answer. In my test, 49 of 50 questions had the right page in the top 5. One of them had the answer chunk at rank 6; the generator said "I don't know". The four layers and the code: https:// pournasserian.com/…
One habit moved accuracy more than model size did. Routing 1,000 requests to ten domains or "out of scope", Laya said out of scope 781 times, Kev-4B 375 and GPT-5.4 nano 64, when 190 were. Four decision models, five small LLMs, every call published: https:// pournasserian.com/wri…