PulseAugur
实时 10:14:04
English(EN) Parameter-Efficient Neuroevolution for Diverse LLM Generation: Quality-Diversity Optimization via Prompt Embedding Evolution

神经进化框架通过提示嵌入进化提升LLM输出多样性

研究人员开发了QD-LLM,一个新颖的框架,它使用参数高效的神经进化来增强大型语言模型输出的多样性。该方法进化紧凑的提示嵌入,这些嵌入充当接口,在无需对模型进行完全微调的情况下引导大型、冻结的LLM。该系统采用质量-多样性优化方法,结合混合行为表征和协同进化算子,在各种基准测试中显著提高了输出覆盖率和质量得分。 AI

影响 增强了LLM的输出多样性和质量,可能改进下游应用,如测试生成和微调。

排序理由 该集群包含一篇学术论文,详细介绍了一种提高LLM输出多样性的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

神经进化框架通过提示嵌入进化提升LLM输出多样性

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Siu Ming Yiu ·

    Parameter-Efficient Neuroevolution for Diverse LLM Generation: Quality-Diversity Optimization via Prompt Embedding Evolution

    Large Language Models exhibit mode collapse, producing homogeneous outputs that fail to explore valid solution spaces. We present QD-LLM, a framework for parameter-efficient neuroevolution that evolves prompt embeddings, compact neural interfaces (~32K parameters) that steer gene…