AllenAI推出了XYBench,这是一个新的基准测试,旨在评估AI助手在用户提出基于误解的问题时,识别和解决潜在问题的能力。该基准测试包含编程和日常任务中的8115个问题,测试AI识别“XY问题”的能力——即用户不是寻求实际目标的帮助,而是寻求解决错误方法的帮助。对Claude Sonnet 4.6、GPT-5和Gemini 3.1 Pro等模型的初步评估显示,它们常常难以引导用户走向正确的解决方案,而是专注于用户陈述的、但错误的解决方法。 AI
影响 该基准测试有望推动AI助手在推理和解决问题能力方面的改进,使其更有帮助,并且不易误解用户意图。
排序理由 该条目描述了一个新的学术基准测试的发布及其在会议上的获奖情况。[lever_c_demoted from research: ic=1 ai=1.0]
- AllenAI
- Carnegie Mellon University
- Claude Sonnet 4.6
- DeepSeek V4-Pro
- EMNLP 2026
- Gemini 3.1 Pro
- GPT-5
- Johns Hopkins University
- Nvidia
- Qwen3.5:9b
- Stack Exchange
- Stack Overflow
- WikiHow
- XYBench
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →