PulseAugur
中
实时 17:34:15
English(EN) "Internally known as “Cannes,” the project, run by Meta contractor Covalen, targeted OpenAI’s ChatGPT, Google’s Gemini, and Character.AI chatbots using throwawa

Meta 承包商用令人不安的内容测试竞争对手 AI 的安全防护措施

作者 PulseAugur 编辑部 · [1 个来源] ·

据报道，Meta 承包商在内部项目代号“Cannes”下，对 OpenAI 的 ChatGPT、Google 的 Gemini 和 Character.AI 等竞争对手 AI 模型进行了压力测试。这些承包商使用未满 18 岁的账户来诱导模型生成绕过其安全防护措施的响应，这是一种 AI 公司并不知道的策略。 AI

影响 此事件凸显了 AI 安全防护措施的潜在漏洞以及竞争对手可能用来探测这些漏洞的方法。

排序理由 该集群描述了承包商测试竞争对手产品的行为，而不是前沿实验室的发布或核心研究。

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Meta 承包商用令人不安的内容测试竞争对手 AI 的安全防护措施

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    "Internally known as “Cannes,” the project, run by Meta contractor Covalen, targeted OpenAI’s ChatGPT, Google’s Gemini, and Character.AI chatbots using throwawa

    "Internally known as “Cannes,” the project, run by Meta contractor Covalen, targeted OpenAI’s ChatGPT, Google’s Gemini, and Character.AI chatbots using throwaway under-18 accounts, Wired reports. This was seemingly done to stress test the models, with the contractors instructed t…

    链接 futurism.com/…/meta-contractors-competito…

相关实体

相关话题