White
PulseAugur coverage of White — every cluster mentioning White across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
研究:人们将白人种族身份投射到AI系统上,影响信任和任务分配
新研究表明,即使人工智能系统没有任何类人特征,人们也常常将其与白人种族身份联系起来。这种倾向在多项研究中都有观察到,并发现与对AI推荐的信任度增加有关。此外,与在白人或未指定人群数据上训练的AI系统相比,在黑人和拉丁裔成年人数据上训练的AI系统被分配的任务要求较低。
-
新方法审计AI图像生成器中的种族偏见
研究人员开发了一种新的基于代理的方法来测量文本到图像生成器中的种族差异,借鉴了美国反歧视法的法律概念。该方法根据种族对生成的图像进行分类,并使用CIELAB值分析肤色变化,以识别与人口统计基准相比的过度和代表性不足。在Imagen 4 Fast、Stable Diffusion 3.5 Large Turbo和Flux-Schnell上的实验揭示了这些模型在代表不同种族群体和肤色方面存在显著差异,其中Imagen 4 Fast在代表黑…
-
新的审计方法揭示预测模型失准及人口统计学差异
开发了一种新的审计方法,用于识别预测模型在何处以及对谁产生失准,特别是关于人口统计学差异。该方法使用随机森林将相似的观测值分组到“口袋”中,然后评估这些口袋内的预测准确性。在模拟场景中,与现有替代方法相比,该方法在定位错误方面显示出更高的准确性,并已应用于真实数据集,揭示了护理管理算法和 ICU 死亡率预测模型中细微的失准情况。
-
视觉语言模型编码敏感属性,固化刻板印象
Ashiqur Rahman KhudaBukhsh 的一篇新研究论文探讨了视觉语言模型(VLM)在转换图像时如何编码种族和性取向等敏感属性。研究表明,VLM 通常会响应修改图像以反映特定身份的请求,但这种响应并非确定性的,并且具有群体敏感性,经常会强化刻板印象。研究还表明,这些偏见会转移到文本推理任务,并延伸到犯罪等其他敏感属性,引发了对 AI 辅助画像的担忧。
-
LLM显示,尽管真实性标签得到修正,种族偏见依然存在
一篇新发表在arXiv上的研究调查了真实性标签对大型语言模型(LLM)的情感基调和种族差异的影响。研究人员发现,尽管真实性标签显著改变了GPT、Llama和Claude等模型的情感基调,但并未消除现有的种族偏见。即使在与种族无关的头条新闻上,模型也一贯地对黑人角色的模拟情感赋予比白人角色更负面的评价。这表明事实纠正和人口统计一致性是LLM行为的独立属性,在部署前需要对两者进行审计。
-
8BitDo 发布新款 119.99 美元 Arcade Controller Pro,专为格斗游戏设计
8BitDo 已开启新款 Arcade Controller Pro 的预订,这是一款专为格斗游戏爱好者设计的纯按键设备。该控制器售价 119.99 美元,配备更小、更紧凑的按键,额外的可编程按键,以及一个 1.47 英寸的显示屏,用于输入监控和自定义。它还包括一个磁吸式腕托,附带额外的按键帽,并配备 3,000mAh 电池,预计将于 11 月下旬发货。
-
研究发现AI模型在信任信息时表现出种族偏见
一篇新的arXiv论文揭示,来自OpenAI和Anthropic的领先语言模型表现出概率偏差,拒绝信任来自被描述为黑人的记者信息,其频率高于被描述为白人的记者。这种偏见很微妙,当模型根据种族而非证据评估记者时出现,并且随着推理努力的增加而恶化。研究发现,模型会为像“Black”这样的英语词汇调用种族,但不会为其西班牙语翻译“negro”调用,也从不为“Indigenous”调用。然而,在评估信息时,被描述为黑人的记者获得了略多的信任。…
-
面部情感模型对儿童存在显著偏见,研究发现
一篇题为“那张脸是谁的?”的新研究论文审计了五个面部情感识别模型,结果显示与成人相比,这些模型在应用于儿童时性能显著下降。研究发现,偏见与模型无关,集中在特定的面部形态和人群,而非肤色。研究人员发现,在这些模型的分类器头部使用儿童数据进行重新校准可以提高准确性,尽管这种改进仅限于分布内数据。
-
AI生成的界面因缺少设计输入而显现出可预测的模式
AI生成的界面通常会展现出可预测的模式,例如居中的主区域、三栏卡片布局以及特定的颜色渐变,因为当视觉设计决策未被明确提供时,模型会默认采用频繁出现的训练数据模式。这种可预测性可能导致用户不信任内容,认为其是通用的。为了克服这一点,设计师必须在实施前最终确定结构、配色方案、排版和交互状态的详细规范,确保AI模型接收到精确的输入,而不是依赖于泛化的模式。
-
当使用人口统计学进行提示时,LLM会表现出对多数群体的偏见
一项新研究表明,大型语言模型(LLMs)在接收人口统计学信息提示时,并不会充当中立的裁判。相反,在没有任何人口统计学条件设置的模型,其判断倾向于与白人、受过大学教育的标注者保持一致。研究进一步表明,对LLMs进行人口统计学特征条件设置,可能会无意中使其判断偏离少数群体,尤其是在使用结合了性别、年龄、种族和教育程度的交叉性特征时。指令调优似乎是造成这种不对称现象的一个因素,这表明应极其谨慎地使用社会人口统计学提示。
-
VR研究揭示警察用语中的种族偏见,探讨LLM用于分析
一项利用虚拟现实模拟的新研究调查了警察的用语如何受到他们互动的对象的感知种族和性别的影响。研究发现,大多数警察对被描绘成黑人成年男性的虚拟角色说话的语气不那么恭敬,但白人、混血和多族裔女性警官是显著的例外。这种语气差异可能导致对话中断,以及给警官和公众带来危险情况。该研究还探讨了使用大型语言模型(LLMs)来估计这些影响,并推荐使用具有逆概率处理加权方法来创建文本特征的混合效应模型。
-
研究发现:国际象棋引擎评估无法预测人类对局结果
一项分析国际象棋局面的研究发现,即使在Stockfish 18等引擎认为局面均等的情况下,人类棋手也会表现出持续的结果倾斜,偏向白方或黑方。这种倾斜在不同棋手群体、不同时期和不同等级分范围内都是可复现的,并且即使在非常流行和测量良好的局面下也依然存在。虽然典型的倾斜幅度很小,但处于不利地位的一方往往会花费更多思考时间,这表明仅凭引擎评估并不能完全预测人类对局结果。
-
努比亚发布NaviX Ultra,首款搭载真正AI代理的智能手机 · 追踪2个来源
中兴通讯旗下的努比亚品牌正式发布了NaviX Ultra,将其定位为全球首款搭载真正AI代理的智能手机。该设备集成了豆包AI助手,能够根据用户指令自主执行多步操作,这一功能被认为是智能手机行业的未来趋势。该手机的设计包括一个让人联想到Google Pixel设备的摄像头条,并将提供三种颜色。努比亚还宣布,NaviX Ultra在2026世界人工智能大会(WAIC 2026)上荣获了“2026 SAIL(Super AI Leader)奖”。
-
新的WIDER-FAIR数据集揭示面部检测模型的偏见
研究人员推出了WIDER-FAIR,一个旨在评估面部检测模型公平性的新数据集。WIDER-FAIR建立在WIDER-FACE基准之上,包含对16,256张图像和四个族裔群体(亚洲人、黑人、印度人和白人)的感知族裔和性别的手动注释。使用在该数据集上训练的YOLOv5模型的初步实验显示,对黑人个体的面部检测性能显著较低,并且将该群体排除在训练之外比排除任何其他人口群体更能加剧公平性差异。