cloud-LLM

Swarm Defense System Thwarts 98.2% of LLM Adversarial Attacks

研究人员开发了一个“Swarm-Consensus Defense”系统，成功防御了针对云端大型语言模型的 98.2% 的对抗性攻击。该系统利用多个本地防御者之间的共识机制，并配备了一个自动修复组件，在第 400 轮时实现了 100% 的防御率。即使是一个小型、仅有 30 亿参数的本地运行模型，在 500 轮针对各种攻击类别的测试中也未出现任何失误。