研究人员开发了一个名为CARE（通过科学实验证据的可审计审查来控制LLM生成的策略）的新系统，以安全地将LLM集成到高通量科学实验中。CARE充当一个可审计的控制器，默认保留一个非LLM优化器，同时使用LLM来提出修订策略。一个关键的干预门确保只有当预选证据支持修改时，LLM提出的更改才会被授权，并且所有决策都会被记录下来。这种方法在Minerva/Olympus和ChemLex基准测试中显著优于现有方法，证明在受控框架内LLM的自我演进性能得到改善且更可靠。 AI
影响 通过引入可审计的控制机制，增强了LLM驱动的科学研究的安全性和性能。
排序理由 该集群包含一篇研究论文，详细介绍了在科学实验中控制LLM生成策略的新颖系统。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2606.14581v1 Announce Type: cross Abstract: Granting LLMs direct control over costly, irreversible scientific experiments leads to unsafe exploration and unstable performance, but discarding LLM creativity entirely sacrifices significant optimization potential. We introduce…
Granting LLMs direct control over costly, irreversible scientific experiments leads to unsafe exploration and unstable performance, but discarding LLM creativity entirely sacrifices significant optimization potential. We introduce CARE (Controlling LLM-Generated Policies through …