CNN/DailyMail
PulseAugur coverage of CNN/DailyMail — every cluster mentioning CNN/DailyMail across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
SpecFit 通过降低专家传输成本优化 MoE 推理速度
研究人员开发了 SpecFit,一种优化专家混合(MoE)模型推理速度的新颖方法,特别是在其专家权重被卸载到主机内存时。SpecFit 专注于通过选择最小化专家在主机和设备之间传输成本的草稿令牌来最大化预测吞吐量。该方法估计预期的已提交令牌,并根据激活的专家预测周期时间,确保每个令牌仅贡献新激活专家的成本。在 CNN/DailyMail 摘要和 GSM8K 上使用 Qwen3-30B-A3B 模型进行的实验表明,SpecFit 在解码…
-
新方法预测语言模型在不同文本语料库中的分歧
研究人员开发了一种方法,可以预测语言模型在不同文本语料库上训练时预测会发生多大变化。他们的公式考虑了文档长度和跨标记偏移的相关性等各种因素,并可以使用单独的参考语料库进行评估。在 TinyStories 和 WikiText-103 等数据集上的实验表明,分歧下降的速度比简单缩放定律预测的要慢得多,他们将其归因于罕见上下文的平滑处理。其预测的准确性比特定的相关性建模方法更依赖于参考语料库的大小。
-
New PSS framework enhances detection of machine-generated text
研究人员开发了一个名为模式稳定性得分(PSS)的新框架,以改进对机器生成文本的检测。该方法利用局部统计特征及其在释义文本变体中的稳定性。PSS结合了全局和局部z分数特征以及高阶统计量、自相关信号和在释义深度上计算出的稳定性得分。评估表明,PSS显著提高了检测准确性,在AUC方面比现有方法高出10-15个百分点,并且即使在文本组件与训练数据不同时也能保持高性能。
-
新框架提高了抽象摘要的事实一致性
研究人员开发了一个新的抽象摘要框架,该框架将生成和选择过程解耦,以提高事实一致性并控制摘要长度。这种模块化方法使用预训练的生成器创建多个候选摘要,然后通过组合过程进行评估和选择。在包括CNN/DailyMail和Multi-News在内的各种数据集上进行的实验表明,事实性和源依据指标得到了一致的改进,人类评估显示感知质量更高。
-
新框架使用多个模型改进文本摘要
研究人员开发了一种多模型自适应摘要框架(MASF),以增强抽象文本摘要。该框架集成了多个经过微调的Transformer模型,每个模型为给定文章生成摘要。然后,一个自适应选择机制根据词汇相似性和语义相关性指标选择最佳摘要。MASF展示了卓越的性能,在CNN/DailyMail数据集上取得了最高的BERTScore(88.63%),并优于GPT3-D2、Falcon-7b和Mpt-7b等模型。
-
Eugene Yan 探讨生成式摘要的评估挑战及幻觉检测
对生成式摘要(即非逐字复制原文句子,而是进行意译重述)的评估存在挑战,尤其是在衡量相关性和事实一致性方面。虽然现代语言模型在流畅性和连贯性方面已基本解决问题,但相关性的衡量仍然主观。事实不一致性,即幻觉的检测是关键焦点,研究表明生成摘要存在显著的错误率,例如在CNN/DailyMail数据集上高达30%。常见的评估方法包括基于n-gram的指标(如ROUGE)和基于嵌入的指标,以及用于幻觉检测的自然语言推理和问答技术。