few-shot prompting
PulseAugur coverage of few-shot prompting — every cluster mentioning few-shot prompting across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
ARASH 方法提升表格预测的 TFM 效率
研究人员开发了 ARASH，一种旨在提高 TabPFN 等表格基础模型 (TFM) 效率的新颖方法。ARASH 通过使用局部邻域分析来解决表格数据选择最佳少样本示例的挑战。该方法将提示长度和内存使用量分别显著降低了高达 1261.5 倍和 2.56 倍，同时保持了与传统方法相当的准确性。
-
动态少样本提示可提高 LLM 示例的相关性和效率 · 跟踪 2 个来源
动态少样本提示通过从更大的池中为每个特定输入检索最相关的示例，而不是为所有查询使用固定的示例集，从而改进了静态少样本提示。此方法使用嵌入空间中的余弦相似度和 k-近邻 (kNN) 等技术，确保提供的示例与当前请求更相关，从而提高质量和令牌效率。少样本提示的成本主要是基于令牌的，每个示例都会增加每次调用的输入成本，尽管提示缓存可以减轻经常性费用。研究表明，虽然示例有助于固定输出形状、标签集和粒度，但只有可混淆案例之间的边界才真正需要正确…
-
提示词工程手册详述5种关键模式，以实现可靠的AI代理
Kunal Ganglani开发了一本包含100多个可重用提示词的提示词手册，这些提示词被归类为五种关键模式，可显著提高AI输出的质量和可靠性。这些模式包括用于复杂推理的思维链（Chain-of-Thought）、用于风格和格式的少样本提示（few-shot prompting）、用于分解任务的提示链（prompt chaining）、用于AI辅助提示优化的元提示（meta-prompting）以及用于确定性结果的约束输出提示（con…
-
LLM研究探讨参数重要性、提示复杂性和任务依赖鲁棒性
近期研究探讨了大语言模型（LLM）及其参数的复杂性。一项研究表明，“超级权重”（Super Weights）在完整时对模型性能至关重要，但在单独训练时却会产生负面影响，这表明参数重要性并不等同于单独训练能力。另一篇论文引入了“提示复杂性”（prompting complexity）作为从LLM获得特定输出所需的最短提示的度量标准，并提出它作为Kolmogorov复杂性的LM相对类比。此外，研究表明提示鲁棒性因任务而异，主观问题比客观问…
-
少样本提示通过示例控制LLM输出
本文解释了少样本提示（few-shot prompting），这是一种无需微调即可控制大型语言模型（LLM）输出的技术。通过在实际查询之前提供几个输入-输出示例，模型可以学习所需的格式和任务。作者演示了该方法如何为情感分析和投诉提取生成确定性的JSON输出，并将其与不太可靠的零样本提示（zero-shot prompting）进行对比。该技术被呈现为许多常见任务的一种经济高效且灵活的替代微调的方法。
-
新研究探讨LLM漏洞检测，提高准确性并分析提示词敏感性
两篇新研究论文探讨了使用大型语言模型（LLMs）进行软件漏洞检测。第一篇论文介绍了VULPO，一个新颖的on-policy优化框架，它使用新的数据集ContextVul，通过考虑上下文信息和推理轨迹来提高LLM识别漏洞的性能。专门的LLM VULPO-4B的性能显著优于现有方法。第二篇论文提出了PromptAudit，一个用于评估提示词敏感性如何影响基于LLM的漏洞检测的框架，发现虽然链式思考提示词（chain-of-thought …