MedTPE

新的MedTPE方法以无性能损失的方式压缩电子病历数据以供大型语言模型使用

研究人员开发了一种名为Medical Token-Pair Encoding (MedTPE)的新方法，用于高效压缩大型语言模型中长序列的电子健康记录。该技术将频繁出现的医疗Token对合并为单个复合Token，实现了无损压缩，且不增加计算开销或牺牲预测准确性。MedTPE在各种临床预测任务和大型语言模型上显著减少了输入Token长度和推理延迟，同时还显示出对其他领域和语言的鲁棒性和通用性。