AI-generated "slopaganda" threatens elections globally, prompting regulatory debate

COVERAGE [9]

1. Mastodon — mastodon.social TIER_1 日本語(JA) · [email protected] · 2026-11-01 12:57

   How should we respond to AI-generated videos that are expected to spread during elections? Professor Kobayashi: "Measures targeting the senders are the most important. While legal boundaries are not straightforward, shouldn't platform companies regulate them to some extent? I believe suspending monetization during election periods could have a certain effect. However, to what extent...

   "選挙の際に広がることが予想されるAI動画をどう受け止めるべきなのか。" "小林教授「発信側への対策がいちばん重要です。法的な線引きは一筋縄ではいきませんが、プラットフォーム企業がある程度は規制しなければいけないのではないでしょうか。選挙期間中の収益化の停止などは一定の効果があるのではないかと思います。ただ、どこまでできるのかには疑問も残ります」" "「一方で、動画を見る側は、発信者や作成者の動機・意図、そういったものを常に念頭に置きながら見る必要があります。情報が真実なのか偽物なのかを見抜くだけではなく、情報がどう作られているのか、そのメカニズムを知る…

   LINKS news.web.nhk/…/nd-20261027de66600
2. Mastodon — mastodon.social TIER_1 日本語(JA) · [email protected] · 2026-11-01 12:56

   Moves within Japan as well. On October 23, the Ministry of Internal Affairs and Communications announced a draft guideline to combat the spread of false information on social media during election periods. The draft guideline requires social media operators to prevent revenue generation from information that could harm the fairness of elections, and to provide a function to indicate when content is AI-generated.

   "日本国内でも動きが。総務省は10月23日、選挙期間中のSNSでの偽情報の拡散などへの対策として指針案を公表しました。" "指針案はSNSの運営事業者に対し、選挙の公正を害するおそれのある情報が発信された場合に収益を得られないようにすることや、AIで作成したコンテンツについてはAIで作成したことを表示する機能を備えることなどを求めています。" "ただ、あくまで推奨する措置を例示したもので、具体的な措置は事業者の判断に委ねていて、表現の自由への配慮から、個別の情報の削除を求めるものではないとしています。" https:// news.web.nhk/new…

   LINKS news.web.nhk/…/nd-20261027de66600
3. Mastodon — mastodon.social TIER_1 日本語(JA) · [email protected] · 2026-11-01 12:56

   However, it is pointed out that there are challenges in its effectiveness because AI videos in elections are sometimes claimed to be "political satire," making it difficult to draw a line with freedom of expression. Jeremy Carrasco, representative of a company that investigates and researches deepfakes, said, "I think it is difficult to regulate the generation of AI content itself by law. On the other hand, such content

   "ただ、実際には選挙に際してのAI動画は「政治風刺」だと主張されることもあり、表現の自由との線引きが難しいため、実効性には課題があると指摘されています。" "ディープフェイクを調査・研究する企業の代表 ジェレミー・カラスコさん「AIコンテンツの生成そのものを法律で規制するのは難しいと思います。一方で、そうしたコンテンツを本物であるかのように見せて公開・拡散する行為については、法整備による対応が必要だと考えています。さらに、肖像や人格的特徴を保護するための、より強力な制度が必要です」" https:// news.web.nhk/newsweb/na/nd…

   LINKS news.web.nhk/…/nd-20261027de66600
4. Mastodon — mastodon.social TIER_1 日本語(JA) · [email protected] · 2026-11-01 12:55

   Will these AI videos be regulated? In fact, Texas, USA, where we interviewed, has a law regulating deepfake videos in relation to elections. The law was enacted in 2019, the first in the nation, and prohibits the publication or distribution of videos created with the intent to deceive, which make it appear as if a real person is acting differently from reality, within 30 days before election day.

   "こうしたAI動画は規制されないのか。実は、取材したアメリカのテキサス州には選挙に関連して、ディープフェイク動画を規制する法律があります。" "法律は2019年、全米で初めて成立したもので、投票日前の30日間、誰かをだます目的でつくられた、実在の人物が現実とは異なる行動をしているかのように見せかける動画の公開や配布を禁じています。" "いまでは30以上の州が、政治広告などでのディープフェイクの使用を規制する法律を制定しています。" https:// news.web.nhk/newsweb/na/nd-202 61027de66600 # AI # 偽情…

   LINKS news.web.nhk/…/nd-20261027de66600
5. Mastodon — mastodon.social TIER_1 日本語(JA) · [email protected] · 2026-11-01 12:54

   Professor Kobayashi is concerned about the "good compatibility" between generative AI videos and "narratives." A "narrative" is defined as "a story told with the intention of creating a specific impression." He states, "Even if viewers are enjoying the video as fiction, they may unknowingly receive messages, influencing their evaluation of the characters and their beliefs."

   "小林教授は、生成AIによる動画と「ナラティブ」の“相性のよさ”を危惧しています。「ナラティブ」は「特定の印象を与える意図で語られる物語」のこと。" "「見ている側は動画をフィクションとして楽しんでいるつもりでも、知らず知らずのうちにメッセージを受け取ってしまい、出てきた登場人物に対する評価に影響を及ぼされたり、信念が補強されたりしてしまいます。今後、AIで有権者の特性ごとに少しずつ内容を変えた動画が大量に投稿されるようになれば、人々の態度に影響していくということは将来十分予想できると思います」" https:// news.web.nhk/newswe…

   LINKS news.web.nhk/…/nd-20261027de66600
6. Mastodon — mastodon.social TIER_1 日本語(JA) · [email protected] · 2026-11-01 12:54

   Professor Tetsuro Kobayashi of Waseda University, an expert in political psychology and political communication, is concerned that the very foundation of elections may be shaken. "Elections are the fundamental institution and mechanism for decision-making in a democracy. The premise was that people would decide where to vote after thinking for themselves and communicating based on correct information." "However

   "政治心理学が専門で、政治コミュニケーションに詳しい早稲田大学の小林哲郎教授は、選挙の根幹が揺らぎかねないと懸念しています。" "「選挙というのは民主主義の意思決定の基本的な制度、メカニズムです。正しい情報に基づいて自分なりに考え、コミュニケーションをとったうえで投票先を決めることが前提になっていました」" "「しかし、生成AI動画のように、真実ではないものを選挙のコミュニケーションに使ってよいとなれば、その規範が変わってしまいます。何を信じられるかがわからなくなり、正しい情報すらも正しい情報として信頼できなくなる。真実に基づいた投票ないしは意思決定が難…

   LINKS news.web.nhk/…/nd-20261027de66600
7. Mastodon — mastodon.social TIER_1 日本語(JA) · [email protected] · 2026-11-01 12:53

   AI videos are spreading in elections beyond the US. Recently, AI videos have spread in relation to Brazil's presidential election, Spain's general election, Australia's state parliamentary election, and Taiwan's unified local election. In Japan, during the House of Representatives election in February this year, AI videos that criticized opposition parties by pretending to be street interviews and distorted opposition parties' policy speeches to ridicule them.

   "選挙の際に、AI動画が広がるのはアメリカ以外でも。最近では、ブラジルの大統領選挙やスペインの総選挙、オーストラリアの州議会選挙、台湾の統一地方選挙などに関連して、AI動画が広がりました。" "日本では、今年2月の衆議院選挙の際、街頭インタビューを装って野党を批判したり、野党の政見放送を改変してやゆしたりするAI動画が拡散しました。" "9月に行われた沖縄県知事選挙でも確認されていて、選挙のたびにAI動画が広がる光景は「当たり前」になりつつあります。" https:// news.web.nhk/newsweb/na/nd-202 61027de6660…

   LINKS news.web.nhk/…/nd-20261027de66600
8. Mastodon — mastodon.social TIER_1 日本語(JA) · [email protected] · 2026-11-01 12:52

   According to a study by Wesleyan University, political ads using generative AI have reached 220 cases in 34 states as of mid-October, with spending exceeding $137 million. Only 27% of videos explicitly stated they were AI-generated, according to the study. Even when disclosed, the information was often hard to notice, such as being written in small print or displayed for a short time.

   "ウェズリアン大学の調査によると、生成AIを使った政治広告は10月中旬の時点で34州で220件にのぼり、支出は1億3700万ドルを超えるほどの規模になっています。" "調査によると、AIで作られていることが明記されていた動画は27％だけでした。明記されていても小さい文字で書いてある、表示される時間が短いなど、気づきにくいものもあります。" "すべてが「スロパガンダ」にあたるということではありませんが、AI動画のおよそ81％は共和党側が発信していたということです。" https:// news.web.nhk/newsweb/na/nd-202 61027…

   LINKS news.web.nhk/…/nd-20261027de66600
9. Mastodon — mastodon.social TIER_1 日本語(JA) · [email protected] · 2026-11-01 12:52

   These AI videos about politics flooding social media are also called "slopaganda." It is a coined word combining "slop" = "something like garbage" with politically motivated propaganda, meaning a method that aims to influence public opinion through information mass-produced by AI. New York University Technology Policy Center 1

   "こうした、SNSに氾濫する政治に関するAI動画の数々は、「スロパガンダ」とも呼ばれています。" "「スロップ」＝「ゴミのようなもの」と、政治的な意図のある宣伝「プロパガンダ」を組み合わせた造語で、AIで大量生産された情報によって、世論への影響をねらう手法を意味します。" "ニューヨーク大学テクノロジー政策センターが10月に公表した報告書によると、「スロパガンダ」は本物らしいフェイクで受け手をだますことよりも、「笑わせること、風刺すること、注目を集めること」を目指しているとしています。" https:// news.web.nhk/newsweb/na/…

   LINKS news.web.nhk/…/nd-20261027de66600