PulseAugur
实时 08:38:55
English(EN) On Ideogram 4 safety: Make sure it's not coming from the LLM, I used a local LLM and got 0 rejections on normal prompts

使用本地 LLM 集成绕过了 Ideogram 4 的安全过滤器

一位用户发现,当与 Gemma-4-31B 等本地 LLM 集成时,Ideogram 4 的安全过滤器并不过于严格。通过绕过默认 LLM 并使用经过轻微修改 Ideogram 的提示处理的自定义 API 调用,用户在标准提示下经历了零拒绝。这表明 Ideogram 的安全机制主要与其集成的 LLM 相关,而不是图像生成模型本身固有的部分。 AI

影响 表明图像生成模型中的安全过滤器可以通过集成替代 LLM 来规避,这可能会影响内容审核策略。

排序理由 用户驱动的模型安全功能和集成探索。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/StableDiffusion 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/StableDiffusion TIER_2 English(EN) · /u/lmpdev ·

    On Ideogram 4 safety: Make sure it's not coming from the LLM, I used a local LLM and got 0 rejections on normal prompts

    <!-- SC_OFF --><div class="md"><p>I modified the default workflow to use a (censored!) local Gemma-4-31B running in llama.cpp, called it via API rather than invoking through Comfy and used the &quot;Magic Prompt&quot; from the reference Ideogram repo with very minor modifications…