Microsoft 推出了 CodeAct,这是对其 .NET Agent Framework 的一项增强功能,旨在显著加快 AI 代理的速度。CodeAct 允许模型生成一个单一的 Python 程序来一次性执行所有必要的步骤,而不是为不同工具进行多次顺序调用 AI 模型。这种方法将代表性工作负载的延迟降低了约 50%,并将 token 消耗量减少了 60% 以上。该系统利用 Hyperlight(一种微虚拟机技术)来安全地沙箱化 AI 生成的代码,确保它仅与明确授权的工具进行交互。 AI
影响 通过将工具调用整合到单个程序中来加速 AI 代理执行,从而降低延迟和成本。
排序理由 这是对现有框架的产品更新,为 AI 代理提供了性能改进和新功能。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →