Lighthouse Reports
PulseAugur coverage of Lighthouse Reports — every cluster mentioning Lighthouse Reports across labs, papers, and developer communities, ranked by signal.
-
英国警方因信任和性能问题放弃人工智能犯罪预测模型
英国的Avon and Somerset警察局开发了一个大规模的预测分析项目，其中包括一个“Think Family Database”，该数据库汇集了近五十万人的敏感信息。机器学习模型被用来为成年人和儿童分配风险评分，旨在识别潜在的威胁和伤害。然而，调查显示，其中一些模型因缺乏信任、预测性能差以及对透明度的担忧而被放弃，这可能会损害公众对执法部门使用人工智能的信心。
-
英国国内部署有缺陷的AI年龄估算技术用于庇护系统
尽管内部评估显示存在严重缺陷，英国国内部署正在其庇护系统中实施面部年龄估算技术。Lighthouse Reports 的一项调查表明，即使是最准确的工具也往往会高估青少年的年龄，并且对来自撒哈拉以南非洲的人，特别是女孩存在偏见。这可能导致年仅14岁的未成年人与成年人一起被安置，引发了对该技术应用的严重担忧。
-
英国将使用有缺陷的AI进行寻求庇护者年龄检查，尽管存在偏见担忧
英国政府计划实施面部年龄估算技术来确定寻求庇护者的年龄，此举已引起严重担忧。一项调查显示，在这些测试中使用的AI系统存在偏见，尤其针对撒哈拉以南非洲人，并且经常将儿童错误地归类为成年人。该技术的准确性不足可能导致寻求庇护者被错误分类，从而可能导致他们失去法律保护并被安置在成人拘留中心。
-
调查发现肯尼亚的 AI 医疗改革向穷人过度收费
肯尼亚一项旨在提供全民医保的 AI 驱动的医疗改革，据报道正在向最贫困的公民过度收费，而向富人收费不足。该系统于 2024 年 10 月在 William Ruto 总统的领导下推出，使用机器学习算法来确定医疗缴款。调查显示，该算法系统性地错误计算收入，导致低收入家庭的保费负担过重，并阻碍了他们获得必要的医疗服务。