PulseAugur
中
实时 18:06:59
English(EN) The AI Supply Chain Problem Is Real. It's also decades old.

人工智能模型供应链风险已存在数十年，并非新发现

作者 PulseAugur 编辑部 · [1 个来源] ·

一篇近期文章强调了人工智能模型供应链的重大风险，并将其与Ken Thompson在1984年发表的《论信任的信任》进行类比，以说明审计复杂系统的难度。作者同意文章的核心观点，即由于训练数据的原因，人工智能模型在很大程度上是不可审计的黑箱，这一概念早在2021年对GitHub Copilot的研究以及近期Anthropic关于数据投毒的研究中就已探讨过。然而，作者认为文章所呈现的紧迫性忽视了这些问题并非新问题，而且已经存在了几十年，这表明问题更多在于行业对现有解决方案的采纳，而非知识的缺乏。 AI

影响 强调人工智能模型安全性和可审计性方面长期存在的问题，需要更好地采纳现有解决方案，而非新的发现。

排序理由 该条目是一篇评论文章，分析和批判了关于人工智能模型供应链的一篇现有文章，而不是报道新事件。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

人工智能模型供应链风险已存在数十年，并非新发现

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Jonathan Santilli ·

    The AI Supply Chain Problem Is Real. It's also decades old.

    <p><em>Semgrep is right that models are black boxes we can't audit. But you don't need an attacker to poison a model. The internet already did. And the difference between those two threats is the part their essay skips.</em></p> <p><em>Disclosure: I work on AI-powered vulnerabili…

相关实体

相关话题