Tracekit Box

新系统通过微虚拟机和可验证日志增强 AI 代理安全性 · 跟踪 4 个来源

研究人员开发了 Tracekit Box，这是一个开源系统，旨在通过在隔离的微虚拟机中运行 AI 代理来增强其安全性和可追溯性。该系统限制网络访问，并通过安全签名器控制所有传出操作（如包安装或 API 调用），该签名器会记录和验证每个操作。同时，其他努力正通过各种“工具链工程”模式来提高 AI 代理的性能和效率，这些模式涉及确定性控制系统来管理非确定性 LLM 并减少令牌使用量，同时不牺牲准确性。