研究人员推出了一款名为“Auto”的新型编译器,旨在提高大型语言模型(LLM)代理的效率和可靠性。Auto记录代理的实时行为,识别确定性组件,并将其提炼为已验证的程序或专用模型。这些编译后的行为被打包成WebAssembly制品,并通过沙箱强制执行保证的能力,从而创建“认知二进制文件”。分层运行时执行这些二进制文件,当触发器触发时,会回退到参考代理并进行后续重新编译,确保学习到的技能不会被重新发现。该系统旨在自主地将新颖的体验转化为永久的、已验证的、具有成本效益的技能,并衡量自身的知识差距。 AI
影响 该编译器通过创建可重用、已验证的技能模块,有可能显著降低LLM代理的计算成本和延迟。
排序理由 该集群包含一篇详细介绍LLM代理新系统和基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →