一篇新研究论文介绍了一个动态商业模拟基准,用于评估大型语言模型(LLM)的长期战略决策能力。该基准名为 Vending-Bench,使用一家模拟零售公司,LLM 在其中每月就定价、营销、招聘和研发做出决策。该框架旨在通过分析十二个月期间的利润、收入、市场份额、战略一致性和适应性等指标,来评估 LLM 在短期任务之外的能力。该研究评估了五种领先的 LLM:Gemini、ChatGPT、Meta AI、Mistral AI 和 Grok,为未来的研究提供了一个可复现且开放获取的环境。 AI
影响 提供了一种评估 LLM 战略决策能力的新方法,有可能改善其在商业环境中的应用。
排序理由 介绍 LLM 新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →