LatentMAS

研究审计多智能体LLM中的潜在通信

一项新的研究论文调查了多智能体大型语言模型中潜在通信的有效性，特别是检查了中继键值（KV）缓存的作用。该研究通过用操纵过的版本替换实际缓存来因果审计这些系统，发现当接收方需要发送方的私有信息时，中继缓存会显著提高性能。然而，当不需要私有信息时，性能差异可以忽略不计，这表明观察到的收益并非总是由于真正的“潜在思维”传输。研究还强调，缓存效应的影响可能差异很大，一些方法在缓存清零时显示出显着的性能下降，而另一些方法则对不匹配的缓存表现出最小的影响。