manipulation

新的多智能体系统对角色扮演AI智能体进行压力测试

研究人员开发了一个新颖的多智能体平台，旨在严格压力测试角色扮演语言智能体（RPLAs）。该系统采用一个审问者智能体（Interrogator Agent）来应用渐进式对抗策略，一个目标智能体（Target Agent）代表正在评估的角色扮演语言智能体，以及一个评判智能体（Judging Agent）来评估角色保真度、道德遵守和一致性方面的性能。实验表明，这种多策略对抗方法显著降低了 Llama 3.3 70B Instruct、GPT…