Ray Solomonoff

AI 模型是压缩引擎，而非记忆设备

AI 模型作为复杂的压缩引擎运行，将大量的训练数据压缩成固定大小的参数向量。这个过程根植于算法信息论，迫使模型发现潜在的模式和结构，而不是简单地记忆数据。因此，虽然这些模型拥有广泛的知识，但它们缺乏对过去交互或用户提供细节的具体回忆，因为这些信息被视为噪声并被压缩掉了。AI 模型的有效性直接与其压缩能力挂钩，更大的模型通过捕捉更复杂的模式来实现更好的性能。