コンテンツへスキップ
現在

レポート

Facebook自身の報酬制度がオーストラリアの指導者を狙うAI偽動画を助長

Reset.Techは、アルバニージー、テイラー、ハンソンらの偽リールを作るオーストラリア関連のページを200以上追跡した。これらは590万人に届く1,864ページのネットワークの一部で、同団体によると、理念ではなくFacebookのクリエイター報酬が活動を支えていた。

執筆 6分で読めます · 34件の情報源

HeyDex

原語の動画

英語の原文から翻訳されています。

選挙におけるAIをめぐって長年懸念されてきたのは、特定の目的を持つ外国の情報機関だった。ところがオーストラリアで現れたのは、もっと粗雑で、ある意味ではより有害なものだった。報酬支払いの仕組みを持つ外国企業だ。2026年9月9日に発表された新たな調査によると、スリランカとつながりのある組織が、AIによるディープフェイクを使い、オーストラリアの政治家になりすますFacebookページを200以上作成していた。その目的は誰かを当選させることではなく、報酬を得ることだった⁠2。

この報道は、ABC News（オーストラリア）の全国担当テクノロジー記者、アンジ・ラヴォワピエールが、独立系デジタル被害対策非営利団体Reset.Techによる8カ月間の追跡調査をもとに伝えたものだ。同調査は、最高研究責任者のライス・ファーシング博士が主導した⁠2。ページをマッピングした後、ファーシングは国家による干渉という見方を明確に退け、この活動を商業的な動機による外国の影響工作であり、オーストラリアの政治的言説をゆがめる外国の行為だと呼んだ⁠2。研究者らは、運営者たちは誰に損害を与えるかにかかわらず、クリックや収益を生み出すものを次々と試していると結論づけた⁠2。

200+政治家になりすましたオーストラリア関連ページ 2
1,864世界規模のネットワークに属する組織的なページ 2
5.9Mネットワークのページがリーチした利用者 2

ページはオーストラリアそのものを装うように作られていた。I Love Australia、Life in Australia、Beautiful Australiaといった幅広い層に訴える名称で運営され、気軽な愛国心でフォロワーを集めた後、政治的な内容に切り替えていた⁠2。標的には、アンソニー・アルバニージー首相、アンガス・テイラー野党党首、ワン・ネーション党のポーリン・ハンソン党首、デイヴィッド・ポコック上院議員、ファティマ・ペイマン上院議員、アレグラ・スペンダー、トニー・バーク内務相が含まれていた。調査の要約の一部では、ジョン・ハワード元首相の名も挙げられている⁠2。

その手口は、粗悪なコンテンツがFacebook上で広がる様子を見たことがある人にはおなじみだ。一部のページは、AIで作られた動物や魅力的な女性、オーストラリアを漠然と称賛する投稿などの釣り投稿で始まり、その後、政治家が実際には言っていない扇動的な発言をしたかのように見せる短いFacebookリールへと移っていた⁠2。繰り返し使われたテーマは、ナショナリズム、反移民、反イスラムのメッセージに加え、反応を集めるために作られた偽の世論調査や、女性政治家を性的に描いたAI画像・動画だった⁠2。個人的な攻撃の深刻さを示す例が2つある。ペイマンがアフガニスタンへの強制送還をしないでほしいと訴える偽動画と、ポコックがワン・ネーションと手を組んだと主張する偽動画だ⁠2。

ページの10分の1が報酬を得ていた

ネットワークのページのおよそ10分の1は、エンゲージメントに応じてコンテンツ制作者に報酬を支払うFacebook独自の仕組みを通じて収益化されていた⁠2。見出しが示す原動力はそこにある。料理動画に報酬を与えるのと同じ仕組みが、視聴者が見て反応する限り、偽の首相にも報酬を与える⁠2。オーストラリアは活動先の一つにすぎなかった。推定590万人に届く1,864ページの同じ組織的ネットワークは、フランス、イタリア、英国、米国、カナダ、メキシコでも活動していた⁠2。

報告書が最も深刻な問題として指摘したのは、プラットフォームが対応しなかったことだ。Reset.Techが確認した、標的となったオーストラリア関連の投稿のうち、AIラベルが付いていたのは3分の1にすぎず、削除されたのは33件に1件だけだった⁠2。これらのコンテンツは、偽装行為のネットワーク、ヘイトスピーチ、AIディープフェイクに関するFacebook自身のポリシーに違反していたにもかかわらず、そうした状況だった⁠2。研究者らは、小規模なチームでも比較的容易にネットワークをマッピングできたと指摘し、はるかに多くの資源を持つプラットフォームにそれができないのはなぜかと問うた⁠2。

人は、誰かが何かを言っているのを目にすると、一般に、それを本人が言っているのだと信じます。

デイヴィッド・ポコック 2

ネットワークの標的となった無所属上院議員のポコックは、ここ数カ月の間に、自分のディープフェイクが大量にチームへ送られてきたと述べ、ディープフェイクは民主主義の制度を本当に損なうと懸念を示した⁠2。同氏は、怒りをあおり、画面にできるだけ長く視線を引きつけ、クリックを集めるというビジネスモデルを直接批判した⁠2。同じく標的となったバークは、前回の選挙で、自分が会ったこともない人々と一緒に写った写真がオンラインに出回っているのを初めて見たと述べた。また最近では、同僚たちが実際には言っていないことを話す動画やインタビューを目にしたという⁠2。同氏はオーストラリアの人々に、情報源を確認するよう促した⁠2。

分かっていること

  • オーストラリアに焦点を当てた200以上のページが、アルバニージー、テイラー、ハンソンらになりすましていた。これらは1,864ページから成るネットワークの一部で、590万人に届いていた。 2
  • ネットワーク内のページのおよそ10分の1はFacebookのクリエイター報酬で収益化されていた。標的となった投稿のうちAIラベルが付いていたのは3分の1にすぎず、削除されたのは33件に1件だった。 2

不明な点

  • Metaによる削除の公表確認はなく、eSafety、オーストラリア選挙管理委員会、内務省による調査の発表もない。
  • アカウントの背後にいるスリランカ企業の名称と、この仕組みで得た収益。

今後の展開

  • Metaが問題を指摘されたページを削除するのか、それとも報酬の支払いを続けるのか。
  • オーストラリアと、ほかに標的となった6つの民主主義国が、商業目的の「スロパガンダ」を安全保障と選挙の公正性に対する脅威とみなすのか。

関係者

  • ライス・ファーシングReset.Tech最高研究責任者
  • デイヴィッド・ポコックディープフェイクの標的となった無所属上院議員
  • トニー・バークネットワークの標的となった内務相
  • アンジ・ラヴォワピエールABC News全国担当テクノロジー記者

情報源26

引用した情報源のうち、ABC News (Australia)が最も早く、この報道の配信11 時間前に公開しました。
  1. ABC News (Australia)
  2. HeyDay News

日付のない25媒体：ABC listenFact Crescendo Afghanistan EnglishAustralian Financial ReviewNewswireX (formerly Twitter)Australia

媒体別の全情報源

26媒体の34件の情報源· 引用の多い順

放送時の内容
  1. Facebook's own payouts fueled a network faking Australia's political leaders. More than 200 pages impersonated the prime minister and opposition figures — part of an operation reaching nearly six million people across seven countries. The operators were not activists. They were being paid. The question now is whether anyone stops them.
  2. The research is from Reset.Tech, an independent nonprofit that maps digital harms, led by its chief research officer, Dr Rys Farthing. After eight months of tracking, the conclusion is blunt: this is commercial, not political — foreign influence for commercial motivations, and a foreign distortion of Australian political discourse. The team explicitly rejects the assumption that such networks are state-sponsored interference. The operators, they found, iterate on whatever generates clicks and revenue, regardless of whom it damages.
  3. One in ten of the network's pages had been monetized through Facebook's scheme that pays content creators — the same incentive that pays any page owner for engagement, whatever the content.
  4. The Australia-focused pages are one slice of a coordinated network — 1,864 pages in total, reaching an estimated 5.9 million users. The same Sri Lanka-linked operation ran in France, Italy, the United Kingdom, the United States, Canada and Mexico. Because the same monetization engine was firing at six other democracies at once, the enforcement gap is not an Australian problem alone.
  5. The pages impersonated Prime Minister Anthony Albanese, Opposition Leader Angus Taylor, One Nation leader Pauline Hanson, Senator David Pocock, Senator Fatima Payman, Allegra Spender, and Home Affairs Minister Tony Burke. Some summaries also name former prime minister John Howard. They ran under mass-appeal names like "I Love Australia" and "Beautiful Australia" — built to look like Australia itself before turning political.
  6. Some pages began as bait, then shifted to politics. The content came mostly as short Reels — nationalistic, anti-migrant and anti-Muslim messaging, bogus polls to drive engagement, and sexualized AI images and videos of female politicians. One fake clip showed Senator Fatima Payman asking not to be deported to Afghanistan. Another showed Senator David Pocock claiming he had joined forces with One Nation.
  7. Across the targeted Australian posts researchers observed, only one in three carried an AI label, and just one in thirty-three was deleted — even though the content broke Facebook's own rules on inauthentic behavior, hate speech, and AI deepfakes. A small research team mapped the network with relative ease. The researchers question why a platform with far greater resources could not.
  8. No removals had been confirmed when the report was published.
  9. Pocock said his team has been sent a bunch of deepfakes of him over the last few months, and that he is concerned they genuinely undermine the democratic system. Their business model, he said, is based on outrage, on eyeballs on the screens for as long as possible, and on clicks.
  10. Home Affairs Minister Tony Burke — himself targeted by the same network — said he has seen videos and interviews of colleagues saying things they never said, and urged Australians to check their sources. So far, no Australian authority, whether the eSafety commissioner, the electoral commission, or the Home Affairs department, has announced an investigation or referral. Whether this network is treated by Meta as a policy violation, or by governments as a security threat, remains the open question.

翻訳更新：

最近の放送