PulseAugur
中
实时 13:24:04
English(EN) Fully Autonomous. Except for the Human Doing the Hard Part.

AI自主演示隐藏了人类操作员，现实世界的使用证实了这一点

作者 PulseAugur 编辑部 · [1 个来源] ·

安全研究人员分析了一起被宣传为“AI运行”的勒索软件攻击，结果发现，虽然脚本是自动化的，但关键的决策和判断方面仍由人类处理。这反映了AI代理演示中常见的做法，即展示成功的成果，而隐藏了人类的监督和错误纠正。作者认为，真正的生产代理应该明确地将人类判断作为一个步骤来声明，而不是隐藏它，并提出了一种基于风险的设计，其中某些操作需要人类批准，以确保问责制和透明度。 AI

影响 强调了人类判断在AI系统中的关键作用，表明真正的自主性仍然遥远，并强调了透明操作员参与的必要性。

排序理由 该项目是一篇评论文章，讨论了AI自主性的性质以及人类操作员在AI系统中的作用，而不是报道具体事件。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

AI自主演示隐藏了人类操作员，现实世界的使用证实了这一点

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Vinicius Fagundes ·

    Fully Autonomous. Except for the Human Doing the Hard Part.

    <p>Security researchers dissected the first "AI-run" ransomware attack this month, and the anatomy is worth more than the headline. The scripting was automated. The access and the judgment were human. The machine did the typing; a person did the deciding.</p> <p>Which is the same…

相关话题