NINMENI 正在探索一种名为 MULTIPITA 的新方法,以管理在大型语言模型中建模角色身份相关的计算成本。与将文本压缩成 token 的传统方法不同,NINMENI 为每个角色分配一个唯一的、固定的身份(一个 NMU),该身份不会被合并或替换。这保留了角色身份,但在使计算负担得起方面带来了工程挑战,MULTIPITA 旨在通过重组计算而不是压缩序列来解决这一问题。 AI
影响 这种方法可能带来更高效的 LLM,更好地保留细微的角色身份。
排序理由 该项目描述了一种新颖的 LLM 计算方法,属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →