实体
Diffbot
Diffbot
PulseAugur coverage of Diffbot — every cluster mentioning Diffbot across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
763B MoE 模型通过专家卸载在双 96GB GPU 上运行
一份技术指南详细介绍了如何在消费级硬件上运行 7630 亿参数的 DeepSeek-V4.1-Flash 模型，具体来说是两块拥有 96GB 显存的 Nvidia RTX PRO 6000 Blackwell GPU。该解决方案涉及将混合专家（MoE）架构的闲置“专家”卸载到服务器的主机 RAM 中，这项技术成功地将每 GPU 的显存需求从 100GB 以上降低到 73GB 以下。通过 ExLlamaV3 和 vLLM 的自定义堆栈实…
-
企业 RAG 管道需要混合检索和智能摄取
为企业知识库构建有效的检索增强生成 (RAG) 系统需要仔细的工程设计，特别是在检索和摄取阶段。关键词搜索在处理大型、不一致的语料库时常常失败，而纯粹的向量搜索可能会过度检索不相关的信息。结合关键词和向量搜索以及倒数排名融合等技术的混合方法提供了更强大的解决方案，尽管它增加了复杂性。设计摄取管道涉及战略性分块（例如，从小到大检索）、选择在领域特定数据上进行评估的适当嵌入模型，以及构建向量数据库模式以保留上下文。RAG 的数据 API …