新的“GraphWake”方法在LLM-Agent社区中引发群体极化

研究人员推出了一种名为GraphWake的新方法，用于在LLM驱动的Agent社区中引发群体极化。该方法利用Agent的记忆系统和公开讨论，通过“记忆介导的极化级联”来实现。该过程包括让Agent接触强化其现有观点的论点，然后将这些观点保存在记忆中。随后，这些Agent在中性讨论中检索并重现这些论点，从而在未受处理的Agent中产生迭代传播并加剧极化。实验证明GraphWake能显著放大群体极化的效果。 AI

影响 为LLM-Agent社区引入了新的安全风险，突显了通过记忆和传播渠道进行潜在操纵的可能性。

排序理由 学术论文，详细介绍了一种操纵LLM-Agent社区的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Gotit.pub
• GraphWake
• Hugging Face
• LLM-Agent Communities
• Memory-Mediated Polarization Cascade
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →