蚂蚁集团推出了SingProbe,一个内部开发的旨在将风险检测直接集成到AI模型生成过程中的安全系统。这种方法旨在以最小的开销识别不安全内容和事实错误,据报道在解码阶段的额外成本不到0.5%。SingProbe已适配29个开源模型,并支持SGLang和vLLM等推理框架,代码和基准测试现已公开。 AI
影响 将安全检查直接集成到AI生成过程中,可能降低延迟并改善AI应用程序的用户体验。
排序理由 这是使用AI的公司的产品发布,但不是前沿模型发布或核心AI研究。
- AntAngelMed-100B
- Ant Group
- DeepSeekv4
- GLM-5.2
- GLM 5.3
- Ling-3.0
- Ling-3.0-flash
- Qwen
- SGLang
- SingProbe
- SingProbe-Med
- SingStreamBench
- vLLM
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →