研究人员开发了AgentTrace,一个旨在识别黑盒LLM代理底层基础模型的新框架。该方法通过注入触发序列化失败的探针,然后根据其时间序列和恢复行为进行分析。AgentTrace在归属方面达到了96.0%的准确率,甚至能区分Llama 3 8B和70B等相似模型,并且在对抗性提示混淆和温度缩放方面仍然有效。 AI
影响 该方法通过提供一种验证LLM代理来源的方式,可以增强自主AI系统的安全性和可信度。
排序理由 研究论文,详细介绍了一种识别LLM代理的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- AgentTrace
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- Litmaps
- Llama 3-70B
- Llama 3-8B
- Markov chain
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →