研究人员开发了 AnyJev,一种无需梯度步骤或参数更改即可从预训练语言模型中提取类型化决策的方法。AnyJev 解决了两个关键缺陷:模型将更高概率分配给某些标签或位置的倾向,以及无法直接输出类型化决策。通过划分标签先验并对选项列表的循环旋转取对数概率的平均值,AnyJev 在多选项任务上显著提高了准确性并降低了顺序翻转率。该系统还包含一个停止规则,以优化性能和速度,在 vLLM 上提供决策的速度最多可提高 2.2 倍。 AI
影响 提高了从 LLM 中提取类型化决策的效率和准确性,可能加速需要结构化输出的应用程序。
排序理由 该集群描述了一份技术报告,其中详细介绍了一种从语言模型中提取类型化决策的新方法,这是一项研究贡献。
在 Hugging Face Daily Papers 阅读 →
- alphaXiv
- AnyJev
- arXiv
- CatalyzeX
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- ScienceCast
- vLLM
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →