Les paiements de Facebook alimentent les faux contenus générés par l’IA sur les dirigeants australiens

Ces informations proviennent d’Ange Lavoipierre, journaliste nationale chargée des technologies pour ABC News (Australie), et s’appuient sur huit mois de suivi mené par Reset.Tech, une organisation indépendante à but non lucratif spécialisée dans les préjudices numériques, sous la direction de sa directrice de recherche, la Dre Rys Farthing⁠2. Après avoir cartographié les pages, Farthing a catégoriquement rejeté l’idée d’une ingérence étatique, qualifiant l’opération d’influence étrangère à des fins commerciales et de distorsion étrangère du discours politique australien⁠2. Les opérateurs, concluent les chercheurs, adaptent leurs contenus à tout ce qui génère des clics et des revenus, sans se soucier des personnes auxquelles cela porte préjudice⁠2.

Les pages étaient conçues pour donner l’impression qu’elles représentaient l’Australie elle-même. Elles utilisaient des noms destinés à séduire le plus grand nombre, comme I Love Australia, Life in Australia et Beautiful Australia, et attiraient des abonnés à coups de patriotisme facile avant de se tourner vers la politique⁠2. Parmi les cibles figuraient le Premier ministre Anthony Albanese, le chef de l’opposition Angus Taylor, la dirigeante de One Nation Pauline Hanson, le sénateur David Pocock, la sénatrice Fatima Payman, Allegra Spender et le ministre de l’Intérieur Tony Burke ; certains résumés de l’étude nomment également l’ancien Premier ministre John Howard⁠2.

Cette stratégie était familière à quiconque a vu proliférer les contenus de mauvaise qualité sur Facebook. Certaines pages commençaient par un appât — des animaux générés par l’IA, des femmes séduisantes ou des éloges génériques de l’Australie — puis passaient à de courtes vidéos Facebook Reels dans lesquelles des responsables politiques semblaient tenir des propos incendiaires qu’ils n’avaient jamais prononcés⁠2. Les thèmes récurrents étaient des messages nationalistes, anti-immigrés et anti-musulmans, ainsi que de faux sondages conçus pour susciter de l’engagement et des images et vidéos générées par l’IA, à caractère sexualisé, de femmes politiques⁠2. Deux exemples illustrent le caractère personnel de ces contenus : une fausse vidéo de Payman demandant à ne pas être expulsée vers l’Afghanistan, et une fausse vidéo de Pocock affirmant s’être allié à One Nation⁠2.

Environ une page du réseau sur 10 était monétisée grâce au dispositif interne de Facebook qui rémunère les créateurs de contenu en fonction de l’engagement⁠2. C’est le moteur auquel fait allusion le titre : la même incitation qui récompense une vidéo de cuisine récompense un faux Premier ministre, tant que les gens regardent et réagissent⁠2. L’Australie n’était qu’un des pays ciblés. Le même réseau coordonné de 1,864 pages, touchant environ 5.9 millions d’utilisateurs, était également actif en France, en Italie, au Royaume-Uni, aux États-Unis, au Canada et au Mexique⁠2.

L’inaction de la plateforme est l’aspect le plus préjudiciable du rapport. Parmi les publications australiennes ciblées observées par Reset.Tech, seulement une sur trois portait une étiquette signalant l’IA, et seulement une sur 33 avait été supprimée⁠2. Et ce, malgré des contenus qui enfreignaient les propres règles de Facebook sur les réseaux de comportements inauthentiques, les discours haineux et les deepfakes générés par l’IA⁠2. Les chercheurs ont fait remarquer qu’une petite équipe pouvait cartographier le réseau avec une relative facilité et se sont demandé pourquoi une plateforme disposant de bien plus de ressources n’y parvenait pas⁠2.

Pocock, sénateur indépendant ciblé par le réseau, a déclaré que son équipe avait reçu plusieurs deepfakes le représentant au cours des derniers mois et qu’il craignait que les deepfakes ne sapent réellement le système démocratique⁠2. Il a directement mis en cause le modèle économique : fondé sur l’indignation, sur le maintien des regards rivés aux écrans le plus longtemps possible et sur les clics⁠2. Burke, lui aussi ciblé, a déclaré qu’à la dernière élection, il avait vu pour la première fois en ligne des photos de lui avec des personnes qu’il n’avait jamais rencontrées, et que, plus récemment, il avait vu des vidéos et des interviews de collègues leur faisant tenir des propos qu’ils n’avaient jamais tenus⁠2. Il a exhorté les Australiens à vérifier leurs sources⁠2.