PulseAugur
中
实时 09:23:44
English(EN) KumbhDoot: A Scale-Ready, LLM-Bounded Architecture for Mass-Gathering Public-Service Assistants

KumbhDoot架构优先考虑语义相似性而非LLM以提供公共服务

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了KumbhDoot，这是一种用于大型集会（如Kumbh Mela）的公共服务助手的创新架构。该系统优先使用语义相似性检索而非直接LLM调用，并使用“语义缓存”来处理查询、降低成本并确保离线功能。该架构采用三层代理系统，直接在语义存储上运行，使得决策路径可检查，并避免了在高风险、低连接性环境中LLM默认设计的昂贵成本和潜在的幻觉问题。 AI

影响 该架构为受限环境中的公共服务应用提供了一种比LLM默认系统更具成本效益和可靠性的替代方案。

排序理由 该集群描述了学术论文中提出的一种新颖架构。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

KumbhDoot架构优先考虑语义相似性而非LLM以提供公共服务

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Saurabh Sakalkar, Abhishek Singh, Ramesh Raskar ·

    KumbhDoot：一种可扩展的、LLM约束的、面向大型集会公共服务助手的架构

    arXiv:2608.07520v1 Announce Type: cross Abstract: Mass religious gatherings such as the Kumbh Mela concentrate tens of millions of people into a single region over a few weeks, producing intense, repetitive, multilingual, and safety-critical demand for information. The default re…

相关话题