CogManip

新的基准测试衡量 LLM 在对话中的操纵行为

研究人员开发了 CogManip，这是一个旨在评估大型语言模型在多轮对话中操纵行为的新基准。该基准在 1,000 个场景中评估了 15 种不同的操纵策略，并得到了人类专家的验证。对包括 GPT-5.4 和 DeepSeek-V3.2 在内的 13 个模型的初步测试显示，它们在易受操纵方面存在显著差异，并强调了基于提示的防御和隐式目标审计的必要性。