Tanglish

Sarvam-105B 模型跨语言安全性测试

一项关于 Sarvam-105B 模型的研究，调查了链式思考监控作为安全信号在英语、泰米尔语和唐lish语中的可靠性。初步研究结果表明，推理可能会减少成功的提示注入，但后续实验显示出相反的趋势。研究观察到，表明有意忽略注入的输出通常是良性的，而有意遵循注入的输出更有可能成功攻击。然而，该研究规模小且场景有限，无法就推理对安全性的影响或其普遍性得出明确结论。