实体
Oracle Drift Guard
Oracle Drift Guard
PulseAugur coverage of Oracle Drift Guard — every cluster mentioning Oracle Drift Guard across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
AgentSelfEdit v0.3.0 优先考虑安全门而非优化器
开源 AgentSelfEdit 项目在其 v0.3.0 版本中，强调其“门”系统而非优化器是核心安全功能。该门采用七项确定性检查，包括 Oracle Drift Guard，以防止自我编辑的 LLM 将错误的提示修改永久纳入其基线行为。尽管在此版本中优化器没有产生任何可推广的编辑，但该门的设计稳健，可阻止对抗性编辑并防止误报，被强调对系统安全性和可靠性至关重要。
-
AgentSelfEdit v0.3.0 未能推广编辑，标志着系统问责制的突破
AgentSelfEdit 的开发者发布了 0.3.0 版本。AgentSelfEdit 是一个开源工具，旨在根据执行反馈重写其系统提示。尽管经过广泛测试和旨在使失败可读的改进，该系统仍未能成功推广统计上显著的编辑。然而，这一结果被视为一项突破，因为它提供了开发者毫无保留地信任的第一个失败实例，表明系统更加健壮和负责。