Hua Yan

新的MobCache框架提高了基于LLM的人类移动模拟效率

研究人员开发了MobCache，一个新颖的缓存框架，旨在提高基于大型语言模型（LLM）的人类移动模拟的可扩展性。该框架通过使用LLM模拟现实人口流动模式来满足计算需求，这对于城市规划和疫情响应等应用至关重要。MobCache通过将推理步骤编码为嵌入以供重用和重新组合，并使用轻量级解码器将其翻译成自然语言，从而实现效率提升，从而在不牺牲准确性的情况下提高模拟速度。