9 models

大型语言模型简洁提示可省钱，缩短输入提示成本更高

一项新研究发现，指示大型语言模型（LLM）在输出时保持简洁，可以在不影响准确性的情况下显著降低成本。该研究测试了包括 OpenAI、Anthropic 等公司模型在内的九种不同大型语言模型，结果显示平均节省成本 1.5 倍，在某些情况下甚至高达 3 倍。相反，缩短输入提示被证明是适得其反的，会导致成本增加和准确性下降，因为模型会试图弥补丢失的信息。研究还指出，虽然简洁的输出通常是正确的，但它们并不总是能反映模型不受限制的推理过程。