PulseAugur
中
实时 09:57:43

新的 MLIRBench 基准测试 LLM 对编译器 IR 的推理能力

研究人员推出了 MLIRBench,这是一个旨在评估大型语言模型(LLM)对多级中间表示(MLIR)程序理解和推理能力的新基准测试。该基准测试包含 1,768 对经过验证的程序,使用多智能体管道生成,并分为 EQUIV、DIVERGE 或 ERROR 三类。在评估中,Gemini 3.1 Pro 在硬标签上的准确率最高,达到 92.65%,但其聚合和行为分数表明在预测详细执行语义方面存在差距,突显了改进 LLM 对编译器中间表示的推理能力的需求。 AI

影响 突显了当前 LLM 在编译器 IR 推理能力方面的差距,可能为未来的程序修复和语义分类研究提供指导。

排序理由 该集群包含一篇研究论文,介绍了一个用于评估 LLM 在编译器中间表示推理能力的新基准测试。 [lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的 MLIRBench 基准测试 LLM 对编译器 IR 的推理能力

本文如何被排名

Signal score
15 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该集群包含一篇研究论文,介绍了一个用于评估 LLM 在编译器中间表示推理能力的新基准测试。 [lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
paper, product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Pranava Sai Maganti, Meghasyam Peddireddy, Muzakker Hossain, Kaining Gao, Farhan Ahmed, Ali Jannesari ·

    MLIRBench - 编译器和硬件感知推理的基准和数据集

    arXiv:2611.14881v1 Announce Type: cross Abstract: In recent years, large language models (LLMs) have become increasingly popular in software engineering and have performed well on different programming tasks. However, it is still difficult to know whether these models truly under…