English(EN) Logit Leakage through Floating-Point Bias Addition

新方法通过浮点数算术揭示LLM中的隐藏偏差

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-15 04:00

研究人员发现了一种从大型语言模型中提取敏感信息的新颖方法，该方法专门针对浮点数算术引入的偏差。这项技术在一个新的arXiv论文中进行了详细介绍，它利用数值侧信道来恢复相对logits，甚至模型的确切logit向量，而这些信息通常由API提供商保留。该方法已在包括Qwen3-0.6B在内的各种模型检查点上成功演示，并可以恢复完整的输出头表示。提出的缓解措施包括在偏差加法之前减去最大logit以抑制泄露。 AI

影响这项研究突显了LLM API的一个潜在漏洞，表明即使是被保留的logits也可以被推断出来，从而影响模型的安全性和隐私性。

排序理由研究论文，详细介绍了一种从LLM中提取信息的新颖技术方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 18 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 研究论文，详细介绍了一种从LLM中提取信息的新颖技术方法。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Shaomin Chen, Xiaorui Gong · 2026-10-15 04:00

浮点数偏差添加导致的 Logit 泄露

arXiv:2610.16790v1 Announce Type: cross Abstract: Language model APIs can expose token-specific biases while withholding logits and token probabilities. Existing bias-based extraction recovers relative logits, leaving a common additive component undetermined in ideal arithmetic. …

本文如何被排名

报道来源 [1]

浮点数偏差添加导致的 Logit 泄露

相关实体

相关话题