新的PAVE架构使生成式代理能够证明违规行为的合理性

研究人员开发了PAVE，一种新颖的生成式代理认知架构，使其能够推理和执行合法的违规行为。PAVE的四个模块——感知（Perception）、评估（Assessment）、裁决（Verdict）和模仿（Emulation）——允许代理分析上下文，判断违反规则的必要性和相称性，然后在有限范围内采取行动。在名为Voville的交通模拟环境中进行测试时，配备PAVE的代理表现出改进的决策能力，遵守了合法违规、服从权威和有限范围等属性，并被人类评估者评为更具可信度。 AI

影响 引入了一个框架，使生成式代理能够进行有正当理由的违规行为，有可能提高它们在复杂或紧急情况下的鲁棒性。

排序理由 该集群包含一篇详细介绍生成式代理新认知架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• Generative agents
• Large language models
• Voville

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →