PulseAugur
中
实时 10:06:33
实体 Kontoyiannis entropy rate estimator

Kontoyiannis entropy rate estimator

PulseAugur coverage of Kontoyiannis entropy rate estimator — every cluster mentioning Kontoyiannis entropy rate estimator across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_275173 ·

    新信息论方法对抗人工智能模型崩溃

    研究人员开发了一种新颖的方法来对抗语言模型迭代微调中的“模型崩溃”现象，即输出多样性随时间减少。这种基于信息论并利用 Kontoyiannis 熵率估计器的新方法，不需要访问模型对数概率或真实人类数据。在 Llama-3.1-8B 的实验中，这种基于文本的过滤技术显著提高了文本多样性指标，其性能优于依赖模型访问的既有方法。