Melanie Mitchell
PulseAugur coverage of Melanie Mitchell — every cluster mentioning Melanie Mitchell across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
AI专家警告“机器愚蠢”和伦理风险,而非超级智能
专家们对人工智能表示担忧,这种担忧并非来自超级智能的有意识机器,而是来自当前算法和数据的危险且不道德的应用。主要担忧是“机器愚蠢”会导致在训练数据中不存在的罕见“长尾事件”中发生灾难性故障,而不是人工智能超越人类智能。这种源于人工智能模仿而非真正理解的脆弱性仍然是一个重大问题。
-
缺乏人类理解能力的AI系统导致广泛故障
缺乏人类理解能力的AI系统正越来越多地应用于实际场景。这一转变已将曾经仅限于学术界的问题转变为关于这些系统可靠性和鲁棒性的紧迫的实际担忧。近期各大公司发生的广泛系统故障表明,缺乏人类理解能力可能是关键因素。
-
AI怀疑论者质疑机器的理解能力和现实世界认知
一位AI研究员对机器在翻译和阅读理解等领域达到人类水平的能力表示怀疑,特别是当它们仅通过在线数据进行训练而缺乏真正理解时。该研究员强调了科学研究中持续存在的挑战,例如图像分割和数据解释,而当前的AI系统,包括LLMs,由于缺乏现实世界认知而无法有效解决这些问题。这一观点与Melanie Mitchell等专家早前对AI模型真正理解能力的怀疑论调一致。
-
人工智能研究方法因任务狭窄和夸大其词而受到批评
一种人工智能研究方法,虽然指出其源于2019年但仍然适用,包括定义一个狭窄的任务,收集大量数据集,并衡量人工智能在有限的人类基准上的表现。这个过程常常导致声称人工智能在更广泛的任务上达到了人类水平的表现,尽管最初的挑战只关注狭窄的范围。
-
AI投资策略师预测泡沫破裂,预见向小型语言模型的转变
投资策略师Joachim Klement预测,AI泡沫将在2027年至2028年之间破裂,其驱动因素是从大型、集中式模型转向部署在边缘设备上、更高效、更具成本效益的小型语言模型(SLM)。这一观点挑战了支撑超大规模云AI提供商的当前经济假设,预示着未来小型、廉价的AI将成为常态。Klement的观点与Anthropic的Claude Mythos 5.2等模型的快速发展形成对比,后者提供了显著的速度提升并重新定义了自主工程,尽管Ant…
-
生物神经元的树突复杂性为人工智能提供了见解
Melanie Mitchell的2019年著作《人工智能:思考人类指南》强调了生物神经元的复杂性,并使用“单元”一词来避免将人工神经网络与其生物对应物混淆。近期研究,包括Mickey London实验室的一篇预印本以及Anamika Agrawal和Michael A. Buice的研究,都强调生物神经元错综复杂的树突形态是其计算能力的关键因素。这种复杂性使得单个神经元能够执行需要整个多层人工神经网络才能完成的计算。
-
人工智能研究员 Melanie Mitchell 讨论人工智能安全风险
资深人工智能研究员 Melanie Mitchell 讨论了人工智能安全的复杂性以及该领域中误导性隐喻的可能性。她强调了理解人工智能开发和部署的实际风险的重要性。
-
Melanie Mitchell 与《Quanta Magazine》主持人讨论人工智能
计算机科学家 Melanie Mitchell 接受了 Steven Strogatz 和 Janna Levin 为《Quanta Magazine》的采访。讨论涵盖了人工智能的乐观主义和悲观主义,以及从发展心理学和比较心理学理解人工智能的方法。他们还触及了人工智能研究中的实验方法。
-
研究人员称人工智能智能评估方法不足
圣达菲研究所的研究员 Melanie Mitchell 认为,目前评估机器认知能力的方法不足。她认为人工智能是一种“外星智能”,通过非人类的认知过程运作。
-
Melanie Mitchell:人工智能不像人类那样思考,指标具有误导性
计算机科学家 Melanie Mitchell 认为,当前的人工智能系统并不像人类那样真正地思考或推理。她建议,用于评估人工智能智力的指标常常具有误导性,并且不能准确地捕捉真正的认知能力。Mitchell 主张开发改进的方法来评估机器认知,超越当前的基准。
-
计算机科学家称人工智能不像人类那样思考或推理
计算机科学家 Melanie Mitchell 认为,人工智能不具备类似人类的思考或推理能力。她强调需要改进方法来准确衡量机器认知。Mitchell 的观点突出了当前人工智能功能与真正人类智能之间的区别。
-
AI 研究员 Melanie Mitchell 在 Silver Bullet 播客上讨论机器学习、人工智能和安全
AI 研究领域的知名人士 Melanie Mitchell 接受了 Silver Bullet 播客的采访。讨论内容涵盖了人工智能的测量、机器学习、人工智能、外星智能以及机器学习安全等主题。
-
人工智能研究员 Melanie Mitchell 警告不要期望很快实现完全自主
著名人工智能研究员 Melanie Mitchell 在 Silver Bullet Security Podcast 上接受了 Gary McGraw 的采访。Mitchell 讨论了人工智能的现状,强调尽管大型语言模型 (LLM) 近期取得了进展,但完全自主的人工智能系统并非迫在眉睫。谈话强调了对人工智能能力设定现实期望的必要性。
-
人工智能推理能力引发争议,声称存在“捷径”和“思维幻觉”
人工智能推理能力的最新进展引发了关于这些系统的性质和可靠性的辩论。虽然大型推理模型(LRMs)在解决复杂数学问题等方面展现出了令人印象深刻的问题解决能力,但研究表明,这些成功可能源于“捷径”或“系统博弈”,而非真正的理解。Melanie Mitchell等专家指出,虽然LRMs提高了准确性,但生成的“思维链”可能无法准确反映内部过程,有时甚至可能无益。
-
Melanie Mitchell 警告 LLM 的危险和未知
Melanie Mitchell 的文章《Jagged Intelligence》探讨了当前大型语言模型 (LLM) 的固有局限性和潜在危险。Mitchell 认为,尽管 LLM 功能强大,但它们缺乏真正的理解,并可能表现出不可预测或“锯齿状”的行为。该文强调了在对这些 AI 系统的基本性质进行谨慎和进一步研究的必要性。
-
专家称 AI 基准测试高估了现实世界的工作自动化能力
Melanie Mitchell 认为,当前的人工智能基准测试未能捕捉到人类工作的复杂性。她强调,大多数职业涉及相互关联的任务、适应性和现实世界的灵活性,而这些特点在易于衡量的基准测试中并未得到充分体现。Mitchell 引用了 Sayash Kapoor 和 Arvind Narayanan 的观点,他们认为关注基准测试会导致高估人工智能在现实世界中的自动化能力。
-
大型语言模型展现出“锯齿状智能”,尽管进展迅速
自2023年以来,像ChatGPT这样的大型语言模型发展迅速,但它们缺乏真正类似人类的理解能力,并表现出不稳定的性能。这些模型基于海量文本数据预测下一个词,在某些任务上表现出色,却在类似任务上意外失败,这种现象被称为“锯齿状智能”。尽管需要通过人类反馈和安全训练进行微调,但可操纵性和不确定性问题依然存在。
-
Melanie Mitchell 2019 年出版的人工智能书籍对于理解当今科技仍然具有现实意义
Melanie Mitchell 于 2019 年出版的《人工智能:思考者的指南》一书被强调为理解当前人工智能发展的宝贵资源。该书出版于七年前,其见解对于理解人工智能的复杂性仍然具有现实意义。