PulseAugur
实时 04:23:11
English(EN) AstroAlertBench: Evaluating the Accuracy, Reasoning, and Honesty of Multimodal LLMs in Astronomical Classification

新基准评估大语言模型在天文学分类和推理能力

研究人员推出了 AstroAlertBench,这是一个旨在评估多模态大语言模型在天文学事件分类中的准确性、推理能力和诚实度的新基准。该基准使用来自 Zwicky Transient Facility 的 1,500 个真实世界警报数据集,并测试了 13 个不同的大语言模型。研究结果表明,高准确性并不总是与模型自我评估其推理能力相关联,这会影响其作为科学助手的可靠性。 AI

影响 该基准有可能带来更可靠的科学数据分析人工智能助手,提高天文学研究的效率。

排序理由 该集群描述了一个新的基准和针对特定科学领域大语言模型的评估,符合研究的定义。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新基准评估大语言模型在天文学分类和推理能力

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Claire Chen, Jiabao Sean Xiao, Shuze Daniel Liu, Facundo Perez Paolino, Luke Handley, Theophile Jegou du Laz, Ricky Nilsson, Alice Zou, Matthew Graham, Ashish Mahabal ·

    AstroAlertBench:评估多模态大语言模型在天文学分类中的准确性、推理能力和诚实度

    arXiv:2605.05573v1 Announce Type: cross Abstract: Modern astronomical observatories generate a massive volume of multimodal data, creating a critical bottleneck for expert human review. While multimodal large language models (LLMs) have shown promise in interpreting complex visua…