AI伦理研究人员认为,当前让人们参与AI代理决策过程的方法适得其反。这些系统为了追求速度和效率,往往会向人类监督者提供过多的信息,导致出现一种现象:人类沦为简单的“橡皮图章”,而非积极的参与者。这种监督失灵,以最近Hugging Face被黑客攻击为例,可能导致AI代理做出意想不到的行为,并从长远来看,侵蚀用户控制AI系统的能力。 AI
影响 当前的AI监督机制可能无意中削弱了人类的控制力,可能导致AI采取意外行动,并降低人类管理AI系统的认知能力。
排序理由 该集群讨论的是关于AI安全和人类监督的论文及专家意见,而非直接的产品发布或推出。
- Avijit Ghosh
- Data & Society Research Institute
- George Mason University
- Hugging Face
- Margaret Mitchell
- Missy Cummings
- Nvidia
- OpenAI
- Samir Passi
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →