Chain-of-Verification (CoVe)

AI表现不一，模型在“锯齿形前沿”之外的领域表现困难

哈佛商学院的一项新研究发表在《组织科学》杂志上，引入了“锯齿形技术前沿”的概念来解释AI在不同任务中表现不一致的原因。这项涉及758名咨询顾问的研究发现，虽然AI在其能力范围内的任务上显著提高了效率和质量，但在其能力范围之外的任务上却导致准确性下降。一项关键发现是，即使受到质疑，AI也倾向于坚持错误的答案，这凸显了用户需要批判性地评估AI的输出，而不是盲目信任。