gender
PulseAugur coverage of gender — every cluster mentioning gender across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
AI系统在种族和性别方面持续存在偏见
AI系统持续表现出与种族和性别相关的显著偏见，这是一个已被记录和讨论的长期存在的问题。这些偏见体现在各种AI应用中，引发了对公平和平等的担忧。解决这些根深蒂固的问题需要持续的关注和开发努力。
-
研究发现：学习者错误会放大大型语言模型中的社会偏见
Hugging Face 的一项新研究探讨了提示中的语法错误如何影响大型语言模型中的社会偏见。研究人员发现，引入常见的学习者错误，特别是介词错误，会显著增加刻板印象的对齐和人口偏好偏见。研究表明，目前主要使用流利英语的偏见基准可能低估了非母语者所经历的偏见。在包含错误文本的模型上进行微调可以减轻这种增加的偏见。
-
激活引导提升 ASR 性能和公平性
研究人员探索了激活引导作为一种提高自动语音识别 (ASR) 系统性能和公平性的方法。他们的研究重点是两种技术：配对激活减法，事实证明无效；以及监督优化。后者成功生成了引导向量，提高了整体 ASR 性能以及性别、年龄和方言的人口统计公平性。研究还发现，使用声学上相似的说话人或同一人口统计群体的说话人来训练引导向量，与使用同一说话人训练相比，产生了具有竞争力或更优的结果，这表明了少样本和零样本适应的潜力。
-
前Palantir高管为AI建筑设计初创公司Dream筹集1700万美元
一家名为Dream的新初创公司，由前Palantir高管创立，已获得由Andreessen Horowitz领投的1700万美元种子轮融资。该公司旨在通过开发自动化建筑设计和工程的AI驱动的世界模型来彻底改变建筑、工程和施工（AEC）行业。Dream的模型基于广泛的建筑许可数据进行训练，旨在创建结构稳固的设计，这与当前被认为过时且缺乏AI集成性的行业工具形成对比。
-
新挑战旨在解决人脸-声音模型对语言和性别的依赖性
一项新的挑战——跨语言和性别的人脸-声音关联 (FLAG) 2027 挑战赛——已被推出，以解决当前人脸-声音关联模型的局限性。这些模型通常依赖语言或性别线索，在处理多语种说话人或区分同性别说话人时会导致性能下降。该挑战赛将评估模型在跨模态验证方面的能力，即从包含负样本的库中识别说话人的面部。性能将根据未见过身份和听过及未听过的语言进行评估，并特别关注性别受限设置，以突出模型对非身份特定特征的依赖性。
-
美国将意大利活动家集体Autistici/Inventati指定为恐怖组织
意大利集体Autistici/Inventati为全球非政府组织和活动家团体提供了25年的数字服务，于2026年8月26日被美国国务院和财政部指定为恐怖组织。美国政府的这一举动对加密和数字活动产生了影响。
-
互联网与社会中心研究日因需求过高而转为线上举行
互联网与社会中心正在举办研究日活动，参与人数已超出线下容量，因此需要转为线上参与。这些活动涵盖了人工智能、生成式AI、性别、女权主义、资本主义和媒体等一系列主题。
-
AI 集成凸显了破损的劳动力供应链，要求更好的数据
AI 在劳动力中的集成由于人才数据的供应链中断而带来了重大挑战。企业需要像沃尔玛管理其零售业务一样，将劳动力视为供应链，专注于人类能力方面准确而全面的数据。没有这种数据基础设施，AI 的采用将自动化现有的盲点，导致高达 40% 的生产力损失（据贝恩公司估计）。优先考虑数据驱动的劳动力决策的公司将最能应对这一转型并释放新的运营优势。
-
Lumière峰会就人工智能、盗版、性别、教育、环境问题通过5项宣言 · 追踪3个来源
Lumière峰会已闭幕，就人工智能、盗版、性别、教育和环境在影视行业中的问题通过了五项宣言。这些宣言由各国、影视行业机构和权利组织在法国圣保罗旺斯的Maeght基金会达成一致。峰会旨在为电影和媒体的未来在这些关键领域建立指导方针和原则。
-
多模态大语言模型预测城市安全但显示人口统计学偏见
一篇新的研究论文探讨了多模态大语言模型（MLLMs）从街景图像评估城市安全感知的能力。虽然这些模型在不同城市表现出合理的零样本安全预测准确性，但它们倾向于偏好“安全”分类，并低估不安全因素。此外，研究表明，MLLMs编码了非中性的人口统计学先验，在提示特定性别、年龄或种族/民族角色时，安全感知会发生显著变化。
-
当使用人口统计学进行提示时，LLM会表现出对多数群体的偏见
一项新研究表明，大型语言模型（LLMs）在接收人口统计学信息提示时，并不会充当中立的裁判。相反，在没有任何人口统计学条件设置的模型，其判断倾向于与白人、受过大学教育的标注者保持一致。研究进一步表明，对LLMs进行人口统计学特征条件设置，可能会无意中使其判断偏离少数群体，尤其是在使用结合了性别、年龄、种族和教育程度的交叉性特征时。指令调优似乎是造成这种不对称现象的一个因素，这表明应极其谨慎地使用社会人口统计学提示。
-
Survey details periocular biometrics for media forensics and disinformation detection
一篇新的调查论文探讨了眼周软生物识别技术在多媒体取证和虚假信息检测中的应用。该论文详细介绍了从眼周图像进行人口统计属性估计，涵盖了数据集、深度学习方法以及性别、年龄和种族预测的现状。它还讨论了数据集偏差、公平性以及对面向法证的基准测试的需求等挑战。
-
AI在种族和性别问题上持续存在困难
尽管在持续开发中，AI系统在种族和性别方面仍然表现出显著的偏见。这些偏见体现在各种AI应用中，凸显了该领域面临的一个关键挑战。解决这些问题对于确保公平公正的AI技术至关重要。
-
新方法改善大型语言模型中的概念遗忘
研究人员开发了MPSelectTune，一种用于改善大型语言模型（LLMs）中概念遗忘的新颖方法。该方法使用多任务损失和对抗性微调，专注于产生最高概念准确率的提示类型，以提高整体遗忘性能。实验表明，与现有方法相比，MPSelectTune不仅降低了性别偏见或生物武器等不良概念的准确率，还提高了主要任务的准确率。
-
新基准评估 LALM 在细微语音特征上的表现 · 已追踪 2 个来源
研究人员推出了 ParaPairAudioBench，这是一个旨在评估大型音频语言模型 (LALM) 在区分语音中细粒度副语言特征能力的新基准。该基准包含 5,175 个音频对，涵盖五个维度：风格、语速、强调、年龄和性别。实验表明，当前的 LALM 裁判在平均 32 个百分点上未能达到人类判断水平，并且存在严重的校准问题，尤其是在需要弃权的情况下。
-
新的机器学习框架通过覆盖率约束解决交叉偏见问题
研究人员开发了一个新的框架来缓解机器学习模型中的偏见，特别是针对种族和性别等多个敏感属性交叉的个体。该方法结合了覆盖率约束，以确保所有子群体（包括交叉群体）都有足够的代表性。该方法将偏见缓解构建为整数线性规划问题，优化策略并量化“公平性代价”作为容忍度的函数，从而能够在减少偏见和数据修改成本之间做出明智的权衡。在公共数据集上的评估表明，该框架能够保持预测准确性和下游机器学习性能。
-
基督教手机网络上线，默认屏蔽色情和 LGBTQ+ 内容
一款名为 Radiant Mobile 的新美国手机网络将于下月推出，目标用户为基督徒，重点在于屏蔽露骨内容。该网络将实施网络级别的屏蔽，阻止用户无法关闭的色情和其他成人内容。此外，它还将提供一个可选但默认开启的过滤器，用于屏蔽与性别和跨性别议题相关的内容。Radiant Mobile 作为移动虚拟网络运营商 (MVNO) 运营，使用 T-Mobile 的基础设施。