Useful Capability

Hugging Face论文：大型语言模型安全三难困境意味着有用能力、安全性和开放访问无法共存

Hugging Face的一篇新论文提出了一个大型语言模型安全三难困境，指出有用能力、可靠安全性和开放访问无法共存。研究强调，依赖可复制上下文的安全措施不足以应对攻击者可以模仿合法请求的双重用途任务。为了实现更可靠的安全，该论文建议通过难以复制且能够预测实际下游用途的可信凭证来增强当前的安全措施。