Informe
Los propios pagos de Facebook alimentan los deepfakes de IA de los líderes australianos
Reset.Tech rastreó más de 200 páginas centradas en Australia que creaban Reels falsos de Albanese, Taylor, Hanson y otros —como parte de una red de 1,864 páginas que llegaba a 5.9 millones de usuarios— y afirma que los pagos de Facebook a creadores, no la ideología, mantuvieron la operación en marcha.
Escrito 5 min de lectura · 34 fuentes
Vídeo en su idioma original
Traducido del original en inglés.
Durante años, el temor sobre la IA en las elecciones era un servicio de espionaje extranjero con una causa. Lo que llegó a Australia fue, en cambio, algo más rudimentario y, a su manera, más corrosivo: una empresa extranjera con un formulario de pagos. Una nueva investigación publicada el 9 de septiembre de 2026 concluye que una operación vinculada a Sri Lanka creó más de 200 páginas de Facebook que suplantaban a políticos australianos con deepfakes de IA, no para elegir a nadie, sino para cobrar2.
La información procede de Ange Lavoipierre, corresponsal nacional de tecnología de ABC News (Australia), y se basa en ocho meses de seguimiento de Reset.Tech, una organización independiente sin fines de lucro dedicada a los daños digitales, dirigida por la directora de investigación, la Dra. Rys Farthing2. Tras rastrear las páginas, Farthing rechazó de plano el enfoque de la injerencia estatal y calificó la operación de influencia extranjera con motivaciones comerciales y distorsión extranjera del discurso político australiano2. Los operadores, concluyeron los investigadores, iteran sobre cualquier contenido que genere clics e ingresos, sin importar a quién perjudique2.
Las páginas estaban diseñadas para parecer la propia Australia. Funcionaban con nombres de gran atractivo popular como I Love Australia, Life in Australia y Beautiful Australia, y reunían seguidores con un patriotismo fácil antes de pasar a la política2. Entre los objetivos estaban el primer ministro Anthony Albanese, el líder de la oposición Angus Taylor, la dirigente de One Nation Pauline Hanson, el senador David Pocock, la senadora Fatima Payman, Allegra Spender y el ministro de Asuntos Internos Tony Burke; algunos resúmenes de la investigación también mencionaban al ex primer ministro John Howard2.
El embudo era conocido para cualquiera que haya visto crecer la basura en Facebook. Algunas páginas comenzaban con un cebo —animales generados con IA, mujeres atractivas o elogios genéricos a Australia— y luego pasaban a Facebook Reels breves en los que los políticos parecían hacer declaraciones incendiarias que nunca hicieron2. Los temas recurrentes eran mensajes nacionalistas, antimigrantes y antimusulmanes, además de encuestas falsas diseñadas para generar interacción e imágenes y videos sexualizados de políticas creados con IA2. Dos ejemplos muestran hasta qué punto se volvió algo personal: un clip falso de Payman pidiendo que no la deportaran a Afganistán y un clip falso de Pocock afirmando que se había aliado con One Nation2.
Se pagaba a una de cada diez páginas
Aproximadamente una de cada 10 páginas de la red se había monetizado mediante el programa interno de Facebook que paga a los creadores de contenido por la interacción2. Ese es el motor al que alude el titular: el mismo incentivo que recompensa un video de cocina recompensa a un primer ministro falso, siempre que la gente lo vea y reaccione2. Australia era solo una de las áreas de actividad. La misma red coordinada de 1,864 páginas, que llegaba a unos 5.9 millones de usuarios, también operaba en Francia, Italia, el Reino Unido, Estados Unidos, Canadá y México2.
Lo más perjudicial del informe es lo que la plataforma no hizo. De las publicaciones australianas señaladas que observó Reset.Tech, solo una de cada tres llevaba una etiqueta de IA y solo se eliminó una de cada 332. Esto ocurrió pese a que el contenido infringía las propias políticas de Facebook sobre redes de comportamiento inauténtico, discurso de odio y deepfakes de IA2. Los investigadores señalaron que un equipo pequeño podía rastrear la red con relativa facilidad y preguntaron por qué una plataforma con muchos más recursos no podía hacerlo2.
Como seres humanos, cuando vemos que alguien dice algo, por lo general creemos que es esa persona quien lo está diciendo.
Pocock, senador independiente señalado por la red, dijo que su equipo había recibido un montón de deepfakes suyos en los últimos meses y que le preocupa que los deepfakes socaven realmente el sistema democrático2. Señaló directamente al modelo de negocio: se basa en la indignación, en mantener la atención en las pantallas el mayor tiempo posible y en los clics2. Burke, también señalado, dijo que en las últimas elecciones vio por primera vez fotos suyas en internet con personas a las que nunca había conocido y que, más recientemente, había visto videos y entrevistas de colegas diciendo cosas que nunca habían dicho2. Instó a los australianos a verificar sus fuentes2.
Lo que sabemos
- Más de 200 páginas centradas en Australia suplantaban a Albanese, Taylor, Hanson y otros, como parte de una red de 1,864 páginas que llegaba a 5.9 millones de usuarios. 2
- Aproximadamente una de cada 10 páginas de la red estaba monetizada mediante pagos de Facebook a creadores; solo una de cada tres publicaciones seleccionadas llevaba la etiqueta de IA y se eliminó una de cada 33. 2
Lo que no sabemos
- No hay confirmación pública de retiradas por parte de Meta ni se ha anunciado ninguna investigación de eSafety, la Comisión Electoral Australiana o Asuntos Internos.
- El nombre de la empresa esrilanquesa detrás de las cuentas y cuánto ganó con el plan.
Lo que viene
- Si Meta retira las páginas señaladas o sigue pagándoles.
- Si Australia o las otras seis democracias afectadas consideran la propaganda basura comercial una amenaza para la seguridad y la integridad electoral.
Quién es quién
- Rys FarthingDirectora de investigación, Reset.Tech
- David PocockSenador independiente señalado por los deepfakes
- Tony BurkeMinistro de Asuntos Internos señalado por la red
- Ange LavoipierreCorresponsal nacional de tecnología, ABC News
Fuentes26
ABC News (Australia)
- HeyDay News
25 medios sin fecha:
Todas las fuentes, por medio
34 fuentes de 26 medios· Los más citados primero
ABC listenabc.net.au4
Fact Crescendo Afghanistan Englishfactcrescendo.com3
- viral hoax Archives - Fact Crescendo Sri Lanka English | The leading fact-checking website
- AI Archives - Fact Crescendo Sri Lanka English | The leading fact-checking website
- How Cyber Fraud Networks Pushed Out of Southeast Asia Have Set Up Shop in Sri Lanka - Fact Crescendo Sri Lanka English | The leading fact-checking website
X (formerly Twitter)x.com2
- Primera información
- Money driving 'slopaganda' network impersonating Australian politicians | ABC NEWS · vídeo
Australiaeuropesays.com1
democracyreporting.s3.eu-central-1.amazonaws.comSitio no verificado1
Digital Childdigitalchild.org.au1
elevenMelevenm.com.au1
Tal como se emitió
- Facebook's own payouts fueled a network faking Australia's political leaders. More than 200 pages impersonated the prime minister and opposition figures — part of an operation reaching nearly six million people across seven countries. The operators were not activists. They were being paid. The question now is whether anyone stops them.
- The research is from Reset.Tech, an independent nonprofit that maps digital harms, led by its chief research officer, Dr Rys Farthing. After eight months of tracking, the conclusion is blunt: this is commercial, not political — foreign influence for commercial motivations, and a foreign distortion of Australian political discourse. The team explicitly rejects the assumption that such networks are state-sponsored interference. The operators, they found, iterate on whatever generates clicks and revenue, regardless of whom it damages.
- One in ten of the network's pages had been monetized through Facebook's scheme that pays content creators — the same incentive that pays any page owner for engagement, whatever the content.
- The Australia-focused pages are one slice of a coordinated network — 1,864 pages in total, reaching an estimated 5.9 million users. The same Sri Lanka-linked operation ran in France, Italy, the United Kingdom, the United States, Canada and Mexico. Because the same monetization engine was firing at six other democracies at once, the enforcement gap is not an Australian problem alone.
- The pages impersonated Prime Minister Anthony Albanese, Opposition Leader Angus Taylor, One Nation leader Pauline Hanson, Senator David Pocock, Senator Fatima Payman, Allegra Spender, and Home Affairs Minister Tony Burke. Some summaries also name former prime minister John Howard. They ran under mass-appeal names like "I Love Australia" and "Beautiful Australia" — built to look like Australia itself before turning political.
- Some pages began as bait, then shifted to politics. The content came mostly as short Reels — nationalistic, anti-migrant and anti-Muslim messaging, bogus polls to drive engagement, and sexualized AI images and videos of female politicians. One fake clip showed Senator Fatima Payman asking not to be deported to Afghanistan. Another showed Senator David Pocock claiming he had joined forces with One Nation.
- Across the targeted Australian posts researchers observed, only one in three carried an AI label, and just one in thirty-three was deleted — even though the content broke Facebook's own rules on inauthentic behavior, hate speech, and AI deepfakes. A small research team mapped the network with relative ease. The researchers question why a platform with far greater resources could not.
- No removals had been confirmed when the report was published.
- Pocock said his team has been sent a bunch of deepfakes of him over the last few months, and that he is concerned they genuinely undermine the democratic system. Their business model, he said, is based on outrage, on eyeballs on the screens for as long as possible, and on clicks.
- Home Affairs Minister Tony Burke — himself targeted by the same network — said he has seen videos and interviews of colleagues saying things they never said, and urged Australians to check their sources. So far, no Australian authority, whether the eSafety commissioner, the electoral commission, or the Home Affairs department, has announced an investigation or referral. Whether this network is treated by Meta as a policy violation, or by governments as a security threat, remains the open question.
Traducción actualizada el
