实体
12B parameters
12B parameters
PulseAugur coverage of 12B parameters — every cluster mentioning 12B parameters across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究量化语言模型记忆上限
一篇新研究论文探讨了语言模型的“上下文绑定能力”，将其定义为模型在失去实体-值关联追踪之前可以回忆起的赋值数量。该研究测量了12个参数小于3B的模型和30个参数高达12B的开放模型在此上限，发现模型规模与回忆能力之间存在幂律关系。研究还调查了训练方法和直接任务训练如何影响此能力，表明干扰可以通过减少单次绑定回忆来降低测量能力。
-
新的评估流程用于评估语言大模型在光网络自动化中的应用
研究人员开发了HuGLEN，一个新颖的评估流程，旨在评估语言大模型（LLMs）在光网络自动化中的应用。该流程采用“以LLM为裁判”的方法，并结合专家评分，创建了一种可扩展且可复现的比较方法。该系统旨在根据质量效率得分（QES）对LLMs进行排名，该得分平衡了解释质量和推理成本。结果表明，一个12B参数的LLM取得了最高的QES，证明了其在面向操作员的自动化任务中的最佳权衡。