一个名为OpEmbed的新框架已被开发出来,用于分析大型语言模型(LLM)云服务的操作行为。该框架使用生产支持案例元数据,而不是模型能力基准,来创建操作指纹。OpEmbed采用时间对比学习等技术,将LLM服务表示在低维空间中,证明了其识别LLM家族和版本内部结构、预测操作性能以及促进跨模型故障分析的能力。 AI
影响 提供了一种新颖的方法来理解LLM在标准基准之外的操作性能,有助于更好的部署和监控。
排序理由 这是一篇研究论文,详细介绍了一个用于分析LLM操作行为的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- DagsHub
- Google Cloud
- Gotit.pub
- Hugging Face
- IArxiv
- Litmaps
- OpEmbed
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →