实体
Zipf's law
Zipf's law
PulseAugur coverage of Zipf's law — every cluster mentioning Zipf's law across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新模型利用单次出现词比率分析修正齐夫定律和希普定律
本研究论文通过开发仅出现一次的词（单次出现词）比例模型，对齐夫定律和希普定律进行了修改。研究假设了一个标准的urn模型用于词语标记采样，并提出单次出现词比率是文本长度的函数。研究了四种此类函数——常数、抵消、线性、和逻辑斯蒂函数，其中逻辑斯蒂模型在英语文本样本中表现出最佳拟合度。论文还讨论了对更大的文本语料库需要更复杂的混合模型。
-
新模型表明停用词偏离齐夫定律
一篇新的研究论文提出，语言中停用词和功能词的分布偏离了齐夫定律，而是符合Beta Rank Function (BRF)。研究表明，非停用词和非功能词也偏离了齐夫定律，但用对数词数与对数词秩的二次函数可以更好地描述。研究人员基于词秩开发了一个停用词/功能词/子集选择模型，并使用独立的文本集合进行了验证，并通过分析证明了该模型可以解释观察到的词秩-词频分布。
-
新的WavePhaseNet方法从理论上将LLM幻觉与结构限制联系起来
研究人员开发了WavePhaseNet，一种用于构建大型语言模型（LLM）中语义概念层级结构（SCHS）的新方法。该方法使用测度论和频率分析重新构建注意力机制，从理论上证明幻觉是固有的结构限制。该方法利用离散傅里叶变换（DFT）将语义信息分解为频带，从而能够精确地操作和减小嵌入空间。通过将GPT-4的嵌入空间从24,576维减小到约3,000维，作者声称在保留含义和意图的同时，能够通过同调正则化实现严谨推理并抑制幻觉。