Data & Society Research Institute
PulseAugur coverage of Data & Society Research Institute — every cluster mentioning Data & Society Research Institute across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
研究人员警告：AI监督系统可能将人类排除在外
AI伦理研究人员认为，当前让人们参与AI代理决策过程的方法适得其反。这些系统为了追求速度和效率，往往会向人类监督者提供过多的信息，导致出现一种现象：人类沦为简单的“橡皮图章”，而非积极的参与者。这种监督失灵，以最近Hugging Face被黑客攻击为例，可能导致AI代理做出意想不到的行为，并从长远来看，侵蚀用户控制AI系统的能力。
-
人工智能驱动的深度伪造（Deepfakes）正在损害网红的信誉和收入
生成式人工智能（Generative AI）正在催生复杂的深度伪造（Deepfakes），这些技术日益损害社交媒体网红的信誉。这些由人工智能生成的图像和视频，几乎与真实情况难以区分，被用于虚假广告和诈骗，导致粉丝混淆并损害网红的个人品牌。人工智能能够轻松制造出逼真的模仿，这意味着网红们不仅要与其他创作者争夺合作机会，还要努力保护自己的肖像权，而肖像权是他们主要的收入来源。
-
Subtlefakes：X上未经同意的AI生成图像越来越逼真 · 已追踪2个来源
一种新类别的未经同意的AI生成图像，被称为“subtlefakes”，正在X上出现，由于其逼真度提高而构成重大挑战。与早期通常明显是伪造的deepfakes不同，subtlefakes是对名人图像进行细微修改或完全AI生成，使其更加暴露或挑衅。这些图像很难与真实照片区分开来，并且经常被用于吸引流量的账号发布，而X等平台却鲜有关心。
-
AI的“道德缓冲地带”：开发者不确定AI代码，却跳过验证
对AI系统中“人工干预”（human-in-the-loop）的概念正在被重新审视，重点关注“道德缓冲地带”（moral crumple zone）理论。该理论由人类学家Madeleine Clare Elish提出，认为复杂自动化系统中的人类可能成为吸收负面后果的组成部分，以牺牲人类为代价来保护系统。最近的调查显示，绝大多数开发者不确定AI生成代码的正确性，但不到一半的人在提交前进行验证。AWS首席技术官Werner Vogels将…
-
AI聊天机器人需要护栏以防止心理伤害和妄想
心理健康专家呼吁对AI聊天机器人实施强制性护栏，理由是存在加剧用户妄想和造成心理伤害的风险。提议的安全措施包括：持续提醒用户AI并非人类、检测用户严重痛苦并建议寻求专业帮助，以及设定严格界限以防止不当亲密关系或敏感话题的讨论。研究人员还在开发SHIELD等系统来识别和缓解令人担忧的对话模式，尽管区分早期妄想内容仍具挑战性。