研究人员开发了一种名为查询校准算子压缩(QCOC)的新方法,以提高表格数据上下文学习的效率。QCOC通过将上下文示例的完整KV缓存编译成跨查询的紧凑共享内存来解决准确性-吞吐量之间的权衡问题。该方法将示例状态聚类成联合KV原型,在显著加快推理速度的同时保留了关键信息。在OpenML CC18数据集上的实验表明,QCOC实现了与完整上下文推理相当的高准确率,并提供了比动态检索方法显著的加速。 AI
影响 能够实现更高效、更准确的表格数据上下文学习,有望提升依赖此类数据的应用的性能。
排序理由 该条目是一篇学术论文,详细介绍了一种新的上下文学习方法。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- Bibliographic Explorer
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- Litmaps
- OpenML CC18
- QCOC
- Query-Calibrated Operator Compression
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →