bias
PulseAugur coverage of bias — every cluster mentioning bias across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
沙特阿拉伯梳理出100多种人工智能偏见以打击歧视
沙特阿拉伯监管机构已识别出人工智能系统中存在的100多种偏见。该倡议旨在提供实用的工具来打击人工智能算法中的歧视，尤其是在医疗和法律领域。新手册为开发人员和政策制定者提供了解决和减轻这些偏见的资源。
-
MAESTRO框架通过模拟专家依赖性来改进MoE模型剪枝
研究人员开发了MAESTRO，一个新颖的结构化剪枝框架，旨在解决Mixture-of-Experts (MoE)语言模型的部署瓶颈。与使用局部启发式方法的先前技术不同，MAESTRO将专家激活轨迹建模为马尔可夫链，以捕捉跨层依赖性，提供全局感知的关键度启发式。该方法显著提高了性能保持率，在50%压缩机制下，性能优于现有方法高达10.61%，并在安全、偏见和伦理等多样化任务中展现出更一致的泛化能力。
-
NeuroCogMap 框架揭示 LLM 中的认知组织
一个名为 NeuroCogMap 的新框架已被开发出来，用于绘制大型语言模型 (LLM) 内的认知组织。该系统将 LLM 的内部特征组织成功能性包裹，将它们与可解释的功能和认知层次结构联系起来。NeuroCogMap 识别出幻觉和偏见等主要 LLM 故障的内部信号，为检测和干预这些问题提供了一种方法。该框架还证明了在语言理解过程中对人类皮层反应的预测能力有所提高，并为人类决策策略提供了见解。
-
NeuroCogMap 框架绘制大型语言模型中的认知组织
一个名为 NeuroCogMap 的新框架已被开发出来，用于绘制大型语言模型（LLMs）内部的认知组织。该系统将 LLM 的内部特征组织成功能性区域，并将它们与特定功能、认知能力和层级结构联系起来。NeuroCogMap 识别出常见的 LLM 故障（如幻觉、偏见和拒绝）的独特内部特征，为机制引导的检测和干预提供了可能性。此外，该框架还展示了预测人类语言理解过程中的皮层反应以及改进人类决策的经典模型的能力。
-
AI解读：理解核心概念的21个必备术语
本文旨在通过定义21个构成理解AI概念基础的关键术语来揭开人工智能的神秘面纱。它涵盖了从机器学习、深度学习到自然语言处理和计算机视觉等广泛的AI子领域。文章还涉及了生成式AI、大型语言模型等关键方面，以及理解过拟合、偏见和AI开发中使用的不同类型数据集等术语的重要性。
-
专家称 AI 放大现有偏见，而非创造偏见
人工智能并没有引入偏见，而是为其传播提供了一个更有效的机制。这一观点表明，AI 系统放大了现有的社会偏见，使其更加普及和广泛。解决偏见问题需要关注潜在的社会问题，而不仅仅是技术本身。
-
AI 继承数据中的偏见，要求自动化决策的公平性
AI 系统不会产生偏见，而是吸收其训练数据中的偏见。确保自动化决策的公平性需要解决这种继承的偏见。这包括仔细考虑数据来源和算法流程，以减轻歧视性结果。