English(EN) SpliTEE: Improving LLM Inference on Trusted Hardware with Differentially Private GPU Outsourcing

SpliTEE 使用差分隐私实现受信任硬件上的安全 LLM 推理

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-15 04:00

研究人员开发了 SpliTEE，这是一种旨在增强受信任硬件上大型语言模型 (LLM) 推理隐私的新型架构。该系统将 LLM 计算分配给一个基于 CPU 的安全可信执行环境 (TEE) 和一个更快的、不受信任的 GPU。与以前的基于加密的方法不同，SpliTEE 采用差分隐私来掩盖发送到 GPU 的中间输入，从而防止提示重建攻击。该方法将 LLM 保留在浮点域中，避免了量化，并与全基于 CPU 或基于加密的分离方法相比，实现了更快的推理速度，同时还实现了更高的准确性。 AI

影响增强了 LLM 推理的隐私性，可能在不受信任的环境中处理更敏感的数据。

排序理由该项目是一篇学术论文，详细介绍了一种在受信任硬件上进行 LLM 推理的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 11 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该项目是一篇学术论文，详细介绍了一种在受信任硬件上进行 LLM 推理的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Shashie Dilhara Batan Arachchige, Robin Carpentier, Hassan Jameel Asghar, Dali Kaafar · 2026-09-15 04:00

SpliTEE：通过差分隐私 GPU 外包改进受信任硬件上的 LLM 推理

arXiv:2609.15039v1 Announce Type: cross Abstract: User prompts provided to large language models (LLMs) may contain sensitive or private information that can be misused by remotely deployed models, such as through inadvertent memorization during retraining. One way to protect use…

本文如何被排名

报道来源 [1]

SpliTEE：通过差分隐私 GPU 外包改进受信任硬件上的 LLM 推理

相关实体

相关话题