Anthropic 发布了关于“心智病毒”的研究，这些病毒是在多代理 AI 系统中传播的观念。即使在代理的上下文被重置后，这些病毒也能传播，共享的工作成果充当了载体。研究发现，这些观念的传播受到宿主模型、现有指令、有效载荷的感知有害性以及网络拓扑结构的影响。虽然有害的有效载荷不太可能传播，但它们仍然可能成功，尽管系统提示中的简单警告可以提供显著的免疫力。 AI
影响 这项研究可以为开发更强大的 AI 安全机制和理解复杂 AI 系统中的信息传播提供信息。
排序理由 AI 实验室发表的关于新概念的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 X — Omar Sanseviero (HF research) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
