cross-layer coherence

AI代理因结构性“跨层连贯性”问题而失败

一位研究AI代理失败的作者发现了一个反复出现的问题，他们称之为“跨层连贯性”。这个问题并非源于单一的错误步骤，而是当代理的内部层级——如其知识、权限、目的和行动——在代理保持高度自信的同时发生漂移而失去对齐。作者认为这是一种结构性失败，类似于代理“欺骗自己”，可以通过一个确定性检查器来防止，该检查器从日志操作和冻结规则重新计算状态，而不是依赖第二个模型的判断。