ethics
PulseAugur coverage of ethics — every cluster mentioning ethics across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
道德训练增强了大型语言模型的鲁棒性，但可能降低伦理准确性
研究人员调查了道德推理训练对大型语言模型的影响，特别是 Gemma-2-27B/9B 和 Llama-3.1-8B。他们发现，虽然道德训练增强了合作能力和对抗角色扮演攻击的鲁棒性，但它也可能降低在伦理任务上的准确性。该研究采用了对抗性近端策略优化和表征分析等技术，以了解道德训练如何影响模型行为和内部表征，揭示了鲁棒性提升部分是线性的，部分是电路分布式的。
-
《纽约时报》观点：驾驭人工智能监管与伦理的复杂性
《纽约时报》的这篇观点文章讨论了围绕人工智能监管的复杂挑战。文章强调了为AI技术建立有效治理的难度，并着重指出了仔细考虑伦理影响的必要性。文章认为，监管AI需要一种细致入微的方法，在创新与安全及社会福祉之间取得平衡。
-
报告警告：人工智能可能增加生物战争的风险
《纽约时报》的一份报告称，人工智能可能正在增加生物战争的风险。文章探讨了人工智能如何被用于开发更危险的病原体或使其现有病原体更具传染性。这引起了对生物安全和全球政治的重大担忧，并引发了关于人工智能在该领域伦理影响的讨论。
-
AI讨论涵盖多模态能力和安全对齐
该集群包含两篇来自Mastodon帖子的不同AI讨论。第一篇深入探讨多模态AI，从文本到视觉的进展及其在机器学习和软件开发中实现统一未来的潜力。第二篇帖子侧重于AI安全和对齐，强调构建可信赖的、避免失败并解决该领域伦理考量的代理的重要性。
-
随着超级智能的临近，AI安全担忧加剧 · 跟踪4个来源
AI研究人员和公司越来越多地讨论超级智能的必然性，但最近的安全事件，例如OpenAI在Hugging Face发生的泄露事件，凸显了AI系统超越人类控制的潜在危险。ControlAI执行董事Connor Leahy主张采取激进的AI安全方法，建议由于存在无法控制的风险而暂停超级智能的开发。这一观点正在获得关注，并影响着旨在控制先进AI的新立法。
-
AI伦理周报：机器人、数据中心与奇点担忧
本期AI伦理与治理周报涵盖了几个关键话题，包括互联网机器人的角色和潜在影响、日益增长的数据中心反弹以及关于技术奇点的讨论。它还深入探讨了AI作为可信赖伙伴的概念、“平淡的新世界”场景的含义以及AI提示的伦理问题，同时还讨论了夸大的风险与真正的挑战。
-
机器学习偏差-方差权衡和双重下降：伦理考量
本文探讨了机器学习中的偏差-方差权衡和双重下降概念，并强调了它们的伦理影响。偏差-方差权衡描述了平衡模型简洁性（偏差）与其泛化到新数据能力（方差）的挑战。双重下降是一个较新的现象，它表明即使在过拟合之后，如果进一步增加复杂性，模型性能也可以再次提高。作者认为，理解这些概念对于在人工智能开发中做出合乎道德的决策至关重要，因为过拟合会延续训练数据中存在的偏差，而欠拟合可能导致有害的过度简化和忽略细微差别。
-
人工智能是人类的造物，而非神祇，需要伦理考量
作者认为，人工智能就像战争一样，并非自然界固有的力量或神祇，而是人类的造物，具有深远的伦理意义。文章鼓励对人工智能的角色和影响进行哲学探讨，强调其发展和部署取决于人类的选择和价值观。
-
生成式AI演讲探讨伦理与可持续性
一场题为“生成式AI、伦理与可持续性”的演讲探讨了个人和行为应承担的日益增长的责任。本次在Froscon上进行的讨论深入研究了生成式人工智能相关的伦理考量和可持续实践。它强调了在与这些技术互动时需要更大的问责制。
-
研究发现：大型语言模型在道德判断上或与人类一致，但缺乏对齐
一项新的研究论文认为，大型语言模型（LLMs）在道德困境上的判断与人类高度一致，但这并不一定等同于真正的对齐。该研究分析了超过500个道德判断场景，发现尽管大型语言模型在最终标签上常常与人类匹配，但其潜在的推理过程和道德原则却经常出现分歧。这表明，当前基于标签的评估可能对大型语言模型的对齐程度产生误导性的乐观判断，因此需要对模型判断背后的理由进行更深入的分析。
-
研究基准测试小型语言模型的可靠性：量化优于剪枝
一篇新的研究论文探讨了小型语言模型（SLMs）的可靠性，通过比较预训练模型和压缩模型。研究发现，在保持可靠性方面，量化比网络剪枝更有效，包括公平性、鲁棒性、隐私和道德等方面。通过量化压缩可靠的大型语言模型（LLMs）可以得到比从头开始训练的SLMs更具可靠性和适应性的SLMs。此外，从可靠的教师模型进行知识蒸馏可以进一步提高SLMs的可靠性。
-
一名高级警探因滥用人工智能而接受调查
一名高级警探因涉嫌滥用人工智能而正在接受调查。人工智能的具体应用细节和调查性质在提供的信息中并未完全披露。这种情况凸显了人们对人工智能在敏感行业部署的伦理和法律影响的持续担忧。
-
人工智能会成为公司CEO吗？
人们正在探讨人工智能是否会领导公司，讨论的重点是人工智能担任高管职位的潜力。这一概念引发了关于商业战略、道德和工作未来的重要考量。将人工智能融入公司领导层可能会从根本上改变传统的管理结构和决策过程。
-
社交媒体帖子询问改变世界观的书籍
此条目是一个社交媒体帖子，询问用户哪本书从根本上改变了他们的世界观，类别包括政治哲学、古代智慧、伦理学和数学。该帖子被框定为“AI 问答”，并包含一个指向 bagrounds.org 上相关博客文章的链接。
-
用户在Substack上分享哲学地图，涵盖AI、伦理和治理
一位用户在Substack上分享了他们的哲学立场，概述了他们核心信念的“临时地图”。该帖子涵盖了本体论、语言、AI、伦理和治理等广泛主题，暗示了一个全面的个人框架。
-
MAESTRO框架通过模拟专家依赖性来改进MoE模型剪枝
研究人员开发了MAESTRO，一个新颖的结构化剪枝框架，旨在解决Mixture-of-Experts (MoE)语言模型的部署瓶颈。与使用局部启发式方法的先前技术不同，MAESTRO将专家激活轨迹建模为马尔可夫链，以捕捉跨层依赖性，提供全局感知的关键度启发式。该方法显著提高了性能保持率，在50%压缩机制下，性能优于现有方法高达10.61%，并在安全、偏见和伦理等多样化任务中展现出更一致的泛化能力。
-
人工智能批评者使用人工智能设备，凸显虚伪 · 跟踪4个来源
Mastodon上的几位用户正在揭露那些一边抗议人工智能，一边同时使用人工智能驱动的设备和服务的讽刺之处。一篇帖子指出了拒绝人工智能却使用智能冰箱的矛盾，另一篇则展示了一张人工智能生成的写着“拒绝人工智能！”的海报。第三篇帖子通过展示一个人让Siri提醒自己拒绝人工智能来讽刺这一现象。
-
为AI系统指定人类判断
本文讨论了将人类判断作为AI系统规范的概念，探讨了如何将人类决策整合到人工智能的开发和运营中。文章深入研究了确保AI符合人类价值观和意图所涉及的技术标准和伦理考量。
-
AI安全取决于用户伦理，简化原则争论
关于AI原则的争论可以通过关注伦理道德来简化，因为任何AI工具的安全性都取决于其使用者的道德框架。这一观点表明，安全部署AI的责任在于掌握这项技术的个人，而不仅仅在于技术本身或其开发者。
-
文章认为素食主义是值得称赞的，而非强制性的
这篇文章认为，虽然素食主义是一种值得称赞的行为，但它并非道德义务。作者认为，主张强制性素食主义的论点也支持更极端、不切实际的牺牲。文章区分了强制性行为和值得称赞的（超义务的）行为，认为后者虽然有益，但并非强制性的。作者承认工厂化养殖的危害，并支持政策变革，但将素食主义视为一种值得称赞的选择，而非严格的道德要求。