English(EN) Privacy-preserving inference on hosted models: a learned input-embedding transform for frozen Qwen3.8-27B

新方法支持在 Qwen3.8-27B 等托管 LLM 上进行私密推理

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-21 04:00

研究人员开发了一种新颖的输入嵌入变换方法，旨在提高使用 Qwen3.8-27B 等托管语言模型时的隐私性。该方法允许提示保留在客户端，只有变换后的向量被发送到主机。一个小型、经过训练的网络（5560万参数）在将这些向量输入到冻结的27B模型之前对其进行处理。虽然这种方法在 MMLU 基准测试中会带来1.5个百分点的轻微准确率损失（从82.3%降至80.7%），但它显著降低了敏感信息暴露给主机的风险。 AI

影响这项技术可以通过保护敏感的用户提示不被模型提供商接触，从而实现更安全地使用托管 LLM。

排序理由该集群包含一篇学术论文，详细介绍了一种在特定 LLM 上进行隐私保护推理的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 0 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群包含一篇学术论文，详细介绍了一种在特定 LLM 上进行隐私保护推理的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: 3 days old; Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Mahendra Roopa, Srikanth Roopa · 2026-10-21 04:00

托管模型上的隐私保护推理：冻结的 Qwen3.8-27B 的学习输入嵌入变换

arXiv:2610.27817v1 Announce Type: new Abstract: Every prompt sent to a hosted language model is readable by whoever runs it. We study whether the prompt can remain on the client while the host receives transformed vectors that stand in for it. A language model converts text to ve…

本文如何被排名

报道来源 [1]

托管模型上的隐私保护推理：冻结的 Qwen3.8-27B 的学习输入嵌入变换

相关实体

相关话题