English(EN) vLLM accepts a LoRA it will never apply, and answers with the base model instead

vLLM 漏洞允许不兼容的 LoRA 适配器静默加载

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-07 07:26

vLLM 库中的一个漏洞允许用户加载与指定模型架构不兼容的 LoRA 适配器，导致模型在没有任何错误或警告的情况下默认使用其基础版本。该问题源于 vLLM 对 LoRA 模块兼容性执行两次独立的检查：一次是针对 `supported_lora_modules` 的宽松检查，另一次是针对 `lora_config.target_modules` 的严格检查。如果适配器的目标模块与模型的架构不匹配，宽松检查会通过，但严格检查未能应用适配器，导致使用基础模型。在 vLLM 版本 0.28.0 和 Qwen/Qwen2.5-0.5B-Instruct 模型上观察到了此行为。 AI

影响如果用户不知道其 LoRA 适配器未被应用，此漏洞可能导致模型输出不正确，从而影响微调和推理的准确性。

排序理由关于特定软件库功能的 Bug 报告。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 50 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 关于特定软件库功能的 Bug 报告。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · The Homelab Postmortem · 2026-09-07 07:26

vLLM 接受了一个它永远不会应用的 LoRA，并用基础模型代替回答

<p><strong>TL;DR</strong>: <code>vllm serve --lora-target-modules qkv_proj</code> plus an adapter that only touches <code>down_proj</code> is a combination vLLM accepts. It loads the adapter, compiles the LoRA kernels, and then wraps zero layers with it — every request comes back…

本文如何被排名

报道来源 [1]

vLLM 接受了一个它永远不会应用的 LoRA，并用基础模型代替回答

相关实体

相关话题