实体
Data & Society Research Institute
Data & Society Research Institute
PulseAugur coverage of Data & Society Research Institute — every cluster mentioning Data & Society Research Institute across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
AI的“道德缓冲地带”：开发者不确定AI代码，却跳过验证
对AI系统中“人工干预”（human-in-the-loop）的概念正在被重新审视，重点关注“道德缓冲地带”（moral crumple zone）理论。该理论由人类学家Madeleine Clare Elish提出，认为复杂自动化系统中的人类可能成为吸收负面后果的组成部分，以牺牲人类为代价来保护系统。最近的调查显示，绝大多数开发者不确定AI生成代码的正确性，但不到一半的人在提交前进行验证。AWS首席技术官Werner Vogels将…
-
AI聊天机器人需要护栏以防止心理伤害和妄想
心理健康专家呼吁对AI聊天机器人实施强制性护栏，理由是存在加剧用户妄想和造成心理伤害的风险。提议的安全措施包括：持续提醒用户AI并非人类、检测用户严重痛苦并建议寻求专业帮助，以及设定严格界限以防止不当亲密关系或敏感话题的讨论。研究人员还在开发SHIELD等系统来识别和缓解令人担忧的对话模式，尽管区分早期妄想内容仍具挑战性。