Facebooks eigene Auszahlungen befeuern KI-Fälschungen von Australiens Spitzenpolitikern

Der Bericht stammt von Ange Lavoipierre, der nationalen Technologie-Reporterin von ABC News (Australia), und stützt sich auf acht Monate Beobachtung durch Reset.Tech, eine unabhängige gemeinnützige Organisation, die sich mit digitalen Schäden befasst und von der leitenden Forschungsbeauftragten Dr. Rys Farthing geleitet wird⁠2. Nachdem Farthing die Seiten kartiert hatte, wies sie die Deutung als staatliche Einmischung entschieden zurück und bezeichnete die Operation als ausländische Einflussnahme aus kommerziellen Motiven und als ausländische Verzerrung des politischen Diskurses in Australien⁠2. Die Betreiber, so das Fazit der Forschenden, passten ihre Inhalte immer wieder an das an, was Klicks und Einnahmen generiert – ungeachtet dessen, wem es schadet⁠2.

Die Seiten waren so gestaltet, dass sie wie Australien selbst wirkten. Sie trugen Namen mit breiter Anziehungskraft wie I Love Australia, Life in Australia und Beautiful Australia, sammelten mit unverfänglichem Patriotismus Follower und wandten sich dann der Politik zu⁠2. Zu den Zielen gehörten Premierminister Anthony Albanese, Oppositionsführer Angus Taylor, One-Nation-Chefin Pauline Hanson, Senator David Pocock, Senatorin Fatima Payman, Allegra Spender und Innenminister Tony Burke. In einigen Zusammenfassungen der Untersuchung wurde auch der frühere Premierminister John Howard genannt⁠2.

Der Ablauf war allen vertraut, die beobachtet haben, wie sich minderwertige Inhalte auf Facebook ausbreiten. Manche Seiten begannen mit Ködern – KI-Tieren, attraktiven Frauen oder allgemeinem Lob für Australien – und schwenkten dann zu kurzen Facebook-Reels um, in denen Politiker scheinbar aufrührerische Aussagen machten, die sie nie geäußert hatten⁠2. Wiederkehrende Themen waren nationalistische, migrationsfeindliche und anti-muslimische Botschaften sowie gefälschte Umfragen, die Interaktionen fördern sollten, und sexualisierte KI-Bilder und -Videos von Politikerinnen⁠2. Zwei Beispiele zeigen, wie persönlich es wurde: ein gefälschter Clip, in dem Payman darum bittet, nicht nach Afghanistan abgeschoben zu werden, und ein gefälschter Clip, in dem Pocock behauptet, er habe sich mit One Nation verbündet⁠2.

Etwa eine von 10 Seiten des Netzwerks war über Facebooks eigenes Programm monetarisiert worden, das Content-Creator für Interaktionen bezahlt⁠2. Das ist der Motor, auf den die Schlagzeile verweist: Derselbe Anreiz, der ein Kochvideo belohnt, belohnt auch einen gefälschten Premierminister – solange Menschen zusehen und reagieren⁠2. Australien war nur einer der Schauplätze. Dasselbe koordinierte Netzwerk aus 1,864 Seiten, das schätzungsweise 5.9 Millionen Nutzer erreichte, war auch in Frankreich, Italien, dem Vereinigten Königreich, den Vereinigten Staaten, Kanada und Mexiko aktiv⁠2.

Was die Plattform unterließ, ist der schädlichste Teil des Berichts. Von den gezielt verbreiteten australischen Beiträgen, die Reset.Tech beobachtete, war nur einer von drei mit einem KI-Hinweis versehen, und nur einer von 33 wurde gelöscht⁠2. Das geschah trotz Inhalten, die gegen Facebooks eigene Richtlinien zu Netzwerken mit unechtem Verhalten, Hassrede und KI-Deepfakes verstießen⁠2. Die Forschenden stellten fest, dass ein kleines Team das Netzwerk relativ leicht kartieren konnte, und fragten, warum eine Plattform mit deutlich mehr Ressourcen dazu nicht in der Lage war⁠2.

Pocock, ein unabhängiger Senator, der vom Netzwerk ins Visier genommen wurde, sagte, seinem Team seien in den vergangenen Monaten zahlreiche Deepfakes von ihm zugeschickt worden. Er sei besorgt, dass Deepfakes das demokratische System wirklich untergraben⁠2. Er verwies direkt auf das Geschäftsmodell: Es beruhe auf Empörung, möglichst lange auf Bildschirme gerichteten Blicken und Klicks⁠2. Burke, der ebenfalls ins Visier genommen wurde, sagte, er habe bei der letzten Wahl zum ersten Mal online Fotos von sich mit Menschen gesehen, die er nie getroffen hatte. In jüngerer Zeit habe er Videos und Interviews von Kollegen gesehen, in denen diese Dinge sagten, die sie nie gesagt hatten⁠2. Er forderte die Australier auf, ihre Quellen zu prüfen⁠2.