مدفوعات فيسبوك نفسها تغذي التزييف بالذكاء الاصطناعي لزعماء أستراليا

يستند التقرير إلى عمل أنج لافواپيير، مراسلة التكنولوجيا الوطنية لدى ABC News (Australia)، ويعتمد على ثمانية أشهر من التتبع أجرتها Reset.Tech، وهي منظمة مستقلة غير ربحية تُعنى بالأضرار الرقمية، بقيادة كبيرة مسؤولي الأبحاث الدكتورة ريس فارثينغ⁠2. وبعد رسم خريطة الصفحات، رفضت فارثينغ تمامًا تأطير العملية على أنها تدخل من دولة، ووصفتها بأنها نفوذ أجنبي بدوافع تجارية وتشويه أجنبي للخطاب السياسي الأسترالي⁠2. وخلص الباحثون إلى أن المشغلين يكررون ما يحقق النقرات والإيرادات، بصرف النظر عمن يتضرر من ذلك⁠2.

صُممت الصفحات لتبدو وكأنها أستراليا نفسها. واستخدمت أسماء جماهيرية واسعة مثل أحب أستراليا والحياة في أستراليا وأستراليا الجميلة، وجمعت متابعين عبر النزعة الوطنية السهلة قبل أن تنتقل إلى السياسة⁠2. وشملت الأهداف رئيس الوزراء أنتوني ألبانيزي، وزعيم المعارضة أنغس تايلور، وزعيمة حزب أمة واحدة بولين هانسون، والسناتور ديفيد بوكوك، والسناتورة فاطمة بايمان، وأليغرا سبندر، ووزير الشؤون الداخلية توني بيرك، فيما سمّت بعض ملخصات البحث أيضًا رئيس الوزراء الأسبق جون هوارد⁠2.

كان مسار الاستدراج مألوفًا لكل من تابع نمو المحتوى الرديء على فيسبوك. بدأت بعض الصفحات بطُعم — حيوانات مولّدة بالذكاء الاصطناعي، أو نساء جذابات، أو مديح عام لأستراليا — ثم تحولت إلى مقاطع قصيرة على Facebook Reels يظهر فيها سياسيون وكأنهم يدلون بتصريحات تحريضية لم يسبق لهم الإدلاء بها⁠2. وتمثلت الموضوعات المتكررة في رسائل قومية ومعادية للمهاجرين والمسلمين، إلى جانب استطلاعات رأي زائفة صُممت لزيادة التفاعل، وصور ومقاطع فيديو مولّدة بالذكاء الاصطناعي ذات طابع جنسي لسياسيات⁠2. ويُظهر مثالان مدى الطابع الشخصي للمحتوى: مقطع مزيف لبايمان تطلب فيه ألا تُرحّل إلى أفغانستان، ومقطع مزيف لبوكوك يزعم فيه أنه تحالف مع حزب أمة واحدة⁠2.

كان نحو صفحة واحدة من كل 10 صفحات في الشبكة قد جرى تحقيق الدخل منها عبر برنامج فيسبوك الداخلي الذي يدفع لمنشئي المحتوى مقابل التفاعل⁠2. وهذا هو المحرك الذي تشير إليه العناوين: فالحافز نفسه الذي يكافئ مقطعًا عن الطبخ يكافئ رئيس وزراء مزيفًا، ما دام الناس يشاهدون ويتفاعلون⁠2. ولم تكن أستراليا سوى منفذ واحد. وكانت الشبكة المنسقة نفسها، المؤلفة من 1,864 صفحة والوصول المقدر لها إلى 5.9 مليون مستخدم، نشطة أيضًا في فرنسا وإيطاليا والمملكة المتحدة والولايات المتحدة وكندا والمكسيك⁠2.

ما لم تفعله المنصة هو الجانب الأشد ضررًا في التقرير. فمن بين المنشورات الأسترالية المستهدفة التي رصدتها Reset.Tech، لم يحمل وسمًا يفيد باستخدام الذكاء الاصطناعي سوى منشور واحد من كل ثلاثة، ولم يُحذف سوى منشور واحد من كل 33⁠2. وكان ذلك رغم أن المحتوى خالف سياسات فيسبوك نفسها بشأن شبكات السلوك الزائف وخطاب الكراهية والتزييف العميق بالذكاء الاصطناعي⁠2. وأشار الباحثون إلى أن فريقًا صغيرًا استطاع رسم خريطة الشبكة بسهولة نسبية، وتساءلوا عن سبب عجز منصة تملك موارد أكبر بكثير عن ذلك⁠2.

قال بوكوك، وهو سناتور مستقل استهدفته الشبكة، إن فريقه أرسل إليه مجموعة من مقاطع التزييف العميق عنه خلال الأشهر القليلة الماضية، وإنه قلق من أن التزييف العميق يقوّض النظام الديمقراطي حقًا⁠2. وأشار مباشرة إلى نموذج العمل القائم على الغضب، وإبقاء مقل العيون أمام الشاشات لأطول وقت ممكن، والنقرات⁠2. وقال بيرك، الذي استهدفته الشبكة أيضًا، إنه رأى في الانتخابات الأخيرة للمرة الأولى صورًا له على الإنترنت مع أشخاص لم يلتقِ بهم قط، وإنه رأى مؤخرًا مقاطع فيديو ومقابلات لزملاء يقولون أمورًا لم يقولوها قط⁠2. وحث الأستراليين على التحقق من مصادرهم⁠2.