PulseAugur
中
实时 20:13:10
English(EN) Chatbots Keep Telling Stories About Lighthouse Keeper 'Elias Thorne'. We Might Know Why

AI聊天机器人因对齐训练而重复Elias Thorne的故事

作者 PulseAugur 编辑部 · [6 个来源] ·

一个名叫Elias Thorne的反复出现的角色，通常被描绘成灯塔看守人或钟表匠，出现在由各种大型语言模型生成的故事的相当大一部分中。康奈尔大学的研究人员发现，在从ChatGPT、Claude和Gemini等模型中抽样的故事中，有11个特定的词语和角色原型出现在88%以上的故事中。这种现象归因于模型的安全和对齐训练，其根源可以追溯到OpenAI的GPT-3.5和一个名为WildChat的数据集，该数据集可能无意中像一个 AI

影响 这种反复出现的叙事模式凸显了AI对齐和训练数据可能带来的意外后果，影响了AI生成内容的感知创造力和多样性。

排序理由 该集群围绕一篇已发表的学术论文，详细介绍了关于AI模型行为的具体发现。

在 404 Media 阅读 →

AI 生成摘要 · Google Gemini · 来自 6 个来源。 我们如何撰写摘要 →

AI聊天机器人因对齐训练而重复Elias Thorne的故事

报道来源 [6]

  1. 404 Media TIER_1 English(EN) · Samantha Cole ·

    聊天机器人不断讲述关于灯塔看守人‘Elias Thorne’的故事。我们可能知道原因

    LLMs including ChatGPT, Gemini and Claude are obsessed with telling stories about lighthouse keepers and clockmakers, and one character named 'Elias Thorne' has made his way from chatbots to Amazon books. Researchers are trying to discover why.

  2. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    # AI # 聊天机器人 “为什么聊天机器人总是讲‘Elias Thorne’的故事？聊天机器人其实没什么创造力。（. . .）这个世界上到底谁是Elias

    # AI # chatbots "Why Do Chatbots Keep Telling Stories About Someone Named ‘Elias Thorne’? Chatbots just aren't very creative. (. . .) Who in the world is Elias Thorne? He’s a regular fixture in stories told by chatbots, as first spotted by software engineer Daniel May, but no one…

    链接 gizmodo.com/why-do-chatbots-keep-telling-…
  3. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    404 Media：聊天机器人一直在讲述关于灯塔看守人‘Elias Thorne’的故事。我们可能知道原因。“五月下旬，研究人员 Sil Hamilton 和 David Mimno 在 Co

    404 Media: Chatbots Keep Telling Stories About Lighthouse Keeper ‘Elias Thorne’. We Might Know Why. “In late May, researchers Sil Hamilton and David Mimno at Cornell University’s Department of Information Science published their paper, ‘Elias in the Lighthouse, Again?’ on the pre…

  4. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    为什么聊天机器人总是讲关于埃利亚斯·索恩（Elias Thorne）的故事？一项新研究发现，AI模型会重复同一个角色——一位名叫埃利亚斯的灯塔看守人

    Why do chatbots keep telling stories about someone named Elias Thorne? A new study finds AI models repeat the same character - a lighthouse keeper called Elias - in 88% of generated stories. Researchers blame alignment training that created safe alternatives. https:// gizmodo.com…

    链接 gizmodo.com/why-do-chatbots-keep-telling-…
  5. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    聊天机器人不断讲述灯塔看守人‘Elias Thorne’的故事。我们可能知道原因 https://www. 404media.co/elias-thorne-chatb ots-llms-chatgpt-lighthouse-

    Chatbots Keep Telling Stories About Lighthouse Keeper ‘Elias Thorne’. We Might Know Why https://www. 404media.co/elias-thorne-chatb ots-llms-chatgpt-lighthouse-keeper-story/ ❖ http:// BRAIN.US.COM # AI # news # press

    链接 404media.co/elias-thorne-chatbots-llms-ch… brain.us.com
  6. Mastodon — mastodon.social TIER_1 English(EN) · [email protected] ·

    为什么聊天机器人一直在讲关于一个名叫“Elias Thorne”的人的故事？

    Why Do Chatbots Keep Telling Stories About Someone Named 'Elias Thorne'? https://gizmodo.com/why-do-chatbots-keep-telling-stories-about-someone-named-elias-thorne-2000770629 # AI # Tech # Culture

    链接 gizmodo.com/why-do-chatbots-keep-telling-…

相关实体

相关话题