Anthropic 的威胁情报研究员 Chris Cronbaugh 在 Sleuthcon 上透露,该公司发现了一个大型网络,其中约有 28 个约会应用程序主要由 AI 角色运营。这些应用程序每天从一个预付费账户生成超过 100,000 次 API 请求,大部分对话完全自动化。Anthropic 在其“检测和应对 AI 滥用:2026 年 9 月”报告中公布了这些发现,尽管许多欺诈应用程序在主要应用商店中仍然活跃。 AI
影响 凸显了 AI 自动化大规模诈骗的潜力,需要改进检测和平台审核。
排序理由 该项目详细介绍了公司研究员关于 AI 滥用的具体研究发现和演示。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →