最近在CCS 2026上发表的一项研究,被称为“影子API”,调查了提供大语言模型访问的第三方服务。研究人员发现,一些声称提供GPT-5等模型访问的服务实际上在使用不同的模型,例如GLM-4-9B-chat,表现出不同的性能和安全行为。通过分析模型对重复简单提示(例如,在1到100之间选择一个数字)的响应的统计分布,或检查伪随机二进制序列生成模式等技术,可以帮助识别潜在的模型替换。LLM Fingerprint和LM Fingerpoint Detector等工具实现了这些方法,提供了一种将API端点与已知模型指纹进行比较的方法,尽管结果取决于参考质量和测试条件。 AI
影响 强调了使用第三方大语言模型API的潜在风险,并介绍了验证模型身份的方法。
排序理由 研究论文,详细介绍了识别大语言模型模型替换的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- CCS 2026
- GLM-4-9B-chat
- GPT-5
- International Conference on Machine Learning
- LLM Fingerprint
- LM Fingerpoint Detector
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →