PulseAugur
实时 04:45:35
English(EN) Your Knowledge Graph Is Wasting 70% of Its Tokens

新的ISONGraph格式大幅减少Token使用量,提高LLM知识图谱准确性

一种名为ISONGraph的新图序列化格式已被开发出来,以提高大型语言模型(LLM)使用的知识图谱的效率。该格式通过最小化语法开销,与JSON等冗长格式相比,可将Token数量减少约70%。这种Token使用量的减少显著影响了图数据可用的有效上下文窗口。此外,ISONGraph在遍历问答和多跳推理任务的准确性方面均表现出卓越的性能,多跳准确性是替代格式的两倍。 AI

影响 这种新格式有望显著提高依赖知识图谱的LLM应用程序的效率和准确性,从而可能降低成本并增强推理能力。

排序理由 为LLM知识图谱序列化提出的新格式,并附有基准测试结果。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的ISONGraph格式大幅减少Token使用量,提高LLM知识图谱准确性

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Mahesh VAIKRI ·

    您的知识图谱正在浪费 70% 的令牌

    <p>Everyone building GraphRAG tunes the same three dials: the retriever, the chunk size, the re-ranker. Then the retrieved subgraph gets serialized into the prompt with <code>json.dumps()</code> — and nobody measures what that step costs.</p> <p>I did. It costs more than everythi…