PulseAugur
实时 03:20:08
English(EN) Your agent's memory is a file anyone can quietly edit. We published an open protocol that makes that detectable.

新协议保护 AI 代理内存免遭篡改

一种新的开放协议已被开发出来,以解决 AI 代理内存中的安全漏洞。目前,AI 代理的持久内存存储为一个文件,该文件可以在不被检测的情况下被更改,导致代理根据虚假信息行事。该协议借鉴了证书透明度的思想,允许代理生成自己的签名密钥,并将受信任内存的哈希值发布到只追加日志中。这使得代理在唤醒时能够检测到任何未经授权的修改,从而确保其内存的完整性。 AI

影响 通过防止内存篡改来增强 AI 代理的安全性和可信度。

排序理由 该集群描述了一种用于 AI 代理内存安全的新协议,这是一项研究贡献。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/OpenAI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新协议保护 AI 代理内存免遭篡改

报道来源 [1]

  1. r/OpenAI TIER_2 English(EN) · /u/zgivod ·

    您代理的记忆是一个任何人都可以悄悄编辑的文件。我们发布了一个开放协议,使其可被检测。

    <!-- SC_OFF --><div class="md"><p>An AI agent's persistent memory is just a file, and anything with access can change what it believes happened. The next session reads it, believes it, and acts on it, and nothing in that loop checks. The <a href="https://1f916.org">https://1f916.…