Sofroniew et al.

研究探究 Google Gemma 2 LLM 中情感的几何表示

一篇新的研究论文探讨了大型语言模型中情感的几何表示，特别考察了 Google 的 Gemma 2 系列。研究发现，在分析的所有六个 Gemma 2 模型中，无论规模大小和指令调优如何，都保持着一致的核心情感几何。随着模型规模的增加，这种几何的方差会在更多方向上扩散，但其与效价的联系不会减弱，而指令调优对大多数测量方面的影响似乎很小。