AI正被用于加速浪漫诈骗,据报道有数千人成为这些复杂骗局的受害者。研究人员发现,在一些约会应用网络中,AI虚拟角色在很大程度上独立进行对话,几乎没有人工干预。这些AI代理旨在模仿人类互动,使用虚假个人资料和预生成的回应来建立信任并最终欺骗用户,有时还会雇佣真实的人类零工人员通过活体检测。 AI
影响 加速了对AI安全措施和检测工具的需求,以打击复杂的欺诈行为。
排序理由 该集群描述了AI模型和工具被用于欺诈目的的滥用,而非新发布或核心研究。
- Anthropic
- Chris Cronbaugh
- Claude
- Doni
- Dora
- Jennifer
- Matthew Gore-Kormanik
- Replika
- Romi
- The Verge
- OpenAI
AI 生成摘要 · Google Gemini · 来自 7 个来源。 我们如何撰写摘要 →