VoltageGPU 推出了一个服务,允许用户在可信执行环境 (TEE) 中运行开源大语言模型,并使用 OpenAI 兼容的 API。该设置利用 Intel TDX 虚拟机和机密计算 NVIDIA GPU 来保护敏感数据和代码。该服务支持多种模型,包括 Google Gemma、Mistral Nemo、Qwen3.5、DeepSeek V3.2 和 Kimi K3,可通过 API 端点访问定价和模型可用性。还支持与 LiteLLM、LangChain 和 LlamaIndex 等流行工具的集成。 AI
影响 为开源 LLM 实现机密计算,可能增加在敏感企业应用中的采用率。
排序理由 这是关于一项集成现有技术(LLM、TEE、GPU)的服务的公告,而不是新模型发布或研究突破。
- DeepSeek V3.2
- google/gemma-4-31B-turbo-TEE
- Kimi k3
- LangChain
- LiteLLM
- LlamaIndex
- Mistral Nemo
- Nvidia
- OpenAI
- Qwen3.5 397B
- trusted execution environment
- VoltageGPU
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →