PulseAugur
中
实时 14:06:45

新的PAVE架构使生成式代理能够证明违规行为的合理性

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了PAVE，一种新颖的生成式代理认知架构，使其能够推理和执行合法的违规行为。PAVE的四个模块——感知（Perception）、评估（Assessment）、裁决（Verdict）和模仿（Emulation）——允许代理分析上下文，判断违反规则的必要性和相称性，然后在有限范围内采取行动。在名为Voville的交通模拟环境中进行测试时，配备PAVE的代理表现出改进的决策能力，遵守了合法违规、服从权威和有限范围等属性，并被人类评估者评为更具可信度。 AI

影响 引入了一个框架，使生成式代理能够进行有正当理由的违规行为，有可能提高它们在复杂或紧急情况下的鲁棒性。

排序理由 该集群包含一篇详细介绍生成式代理新认知架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的PAVE架构使生成式代理能够证明违规行为的合理性

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Christian Claudel ·

    PAVE：生成代理社会中合法违规的认知架构

    Generative agents based on large language models reproduce believable human behavior in cooperative settings, but how they should reason in situations where rule-breaking may be required, such as fire evacuation or authority-supervised emergency, remains poorly characterized. We …

相关实体

相关话题