InferenceXv3

SemiAnalysis 发布 AgentX 数据集以用于代理推理

SemiAnalysis 发布了 AgentX，这是一个开源数据集，专为代理推理设计，具有 100 万个 token 的上下文长度和多轮对话能力。该数据集旨在测试 CUDA 在代理推理场景中的主导地位的韧性。它还强调了 GB300 NVL72、MI355 和 Nvidia B200 等硬件配置，表明这些对于此类高级推理任务是相关的。