CFA Institute Code of Ethics

新的基准测试和研究揭示了LLM安全与性能的权衡 · 已追踪2个来源

两篇新研究论文探讨了大语言模型（LLM）的安全与性能权衡。第一篇论文介绍了Trident-Bench，一个旨在专门评估金融、医疗和法律领域LLM安全性和合规性的基准测试，并强调虽然通用模型表现出基本能力，但领域特定模型在伦理细微问题上常常表现不佳。第二篇论文研究了LLM的越狱防御如何负面影响性能，增加对良性输入的过度拒绝，并提高推理成本，同时提供了基于部署限制选择防御机制的指导。