DARTH-PUM

新研究探索先进的LLM记忆系统和混合处理架构

研究人员开发了MEMAUDIT，一个用于评估LLM代理长期记忆写入能力的创新评估协议。该协议将记忆写入性能与检索和推理分开，从而在预算限制下更精确地分析代理如何将过去的交互压缩成持久记忆。同时，提出了一种名为DARTH-PUM的新型混合处理-使用-记忆架构，它集成了模拟和数字处理-使用-记忆技术，以实现内存阵列内的通用计算。该架构在包括大型语言模型、AES加密和卷积神经网络在内的应用中显示出显著的加速。