Simran Arora

Together AI 发布 ParallelKernelBench 以测试 LLM 多 GPU 内核生成

Together AI 推出了 ParallelKernelBench，这是一个开源基准测试，旨在评估大型语言模型为多 GPU 系统生成高效 CUDA 内核的能力。该基准测试侧重于评估前沿 LLM 在处理复杂、通信密集型工作负载方面的能力，这对于高性能计算至关重要。此次发布凸显了在优化 LLM 以适应专业化、低级编程任务方面持续存在的挑战。