Facebook के अपने भुगतान ऑस्ट्रेलियाई नेताओं के AI फर्जी वीडियो को बढ़ावा दे रहे हैं

यह रिपोर्ट ABC News (Australia) की राष्ट्रीय प्रौद्योगिकी संवाददाता Ange Lavoipierre ने तैयार की है। इसमें Reset.Tech की आठ महीने की निगरानी पर भरोसा किया गया है। Reset.Tech डिजिटल नुकसान पर काम करने वाला एक स्वतंत्र गैर-लाभकारी संगठन है, जिसका नेतृत्व मुख्य शोध अधिकारी Dr Rys Farthing करती हैं⁠2। पेजों का नक्शा तैयार करने के बाद Farthing ने राज्य के हस्तक्षेप वाली व्याख्या को पूरी तरह खारिज किया और इस अभियान को व्यावसायिक उद्देश्यों से प्रेरित विदेशी प्रभाव तथा ऑस्ट्रेलियाई राजनीतिक विमर्श को विदेशी स्तर पर विकृत करने का प्रयास बताया⁠2। शोधकर्ताओं का निष्कर्ष था कि संचालक क्लिक और राजस्व पैदा करने वाली चीज़ों को बार-बार आज़माते हैं, उन्हें इससे कोई फर्क नहीं पड़ता कि किसे नुकसान पहुँचता है⁠2।

इन पेजों को ऐसा बनाया गया था कि वे खुद ऑस्ट्रेलिया जैसे दिखें। वे I Love Australia, Life in Australia और Beautiful Australia जैसे व्यापक अपील वाले नामों से चलाए गए। आसान देशभक्ति के सहारे अनुयायी जुटाने के बाद वे राजनीति की ओर मुड़ गए⁠2। निशाने पर प्रधानमंत्री Anthony Albanese, विपक्ष के नेता Angus Taylor, One Nation की नेता Pauline Hanson, सीनेटर David Pocock, सीनेटर Fatima Payman, Allegra Spender और गृह मामलों के मंत्री Tony Burke थे। शोध के कुछ सारांशों में पूर्व प्रधानमंत्री John Howard का नाम भी शामिल था⁠2।

इसका तरीका Facebook पर घटिया सामग्री के प्रसार को देखने वाले किसी भी व्यक्ति के लिए जाना-पहचाना था। कुछ पेजों ने पहले लोगों को लुभाने के लिए AI से बने जानवर, आकर्षक महिलाएँ या ऑस्ट्रेलिया की सामान्य प्रशंसा पोस्ट की, फिर छोटे Facebook Reels की ओर मुड़े जिनमें राजनेता ऐसे भड़काऊ बयान देते दिखे जो उन्होंने कभी दिए ही नहीं थे⁠2। बार-बार दिखने वाले विषयों में राष्ट्रवादी, प्रवासी-विरोधी और मुस्लिम-विरोधी संदेश, लोगों की भागीदारी बढ़ाने के लिए बनाए गए फर्जी सर्वेक्षण, और महिला राजनेताओं की यौन संकेतों वाली AI तस्वीरें और वीडियो शामिल थे⁠2। दो उदाहरण बताते हैं कि यह कितना निजी हो गया: Payman की एक फर्जी क्लिप, जिसमें वह अफ़ग़ानिस्तान निर्वासित न किए जाने की गुहार लगाती दिखीं, और Pocock की एक फर्जी क्लिप, जिसमें उन्होंने One Nation के साथ हाथ मिलाने का दावा किया⁠2।

नेटवर्क के लगभग हर 10 में से 1 पेज से Facebook की उस आंतरिक योजना के जरिये कमाई की जा रही थी, जो सामग्री निर्माताओं को लोगों की भागीदारी के लिए भुगतान करती है⁠2। शीर्षक में जिस इंजन की ओर इशारा है, वह यही है: खाना पकाने के वीडियो को जो प्रोत्साहन मिलता है, वही किसी फर्जी प्रधानमंत्री को भी मिलता है—बशर्ते लोग उसे देखें और प्रतिक्रिया दें⁠2। ऑस्ट्रेलिया इसका सिर्फ एक हिस्सा था। 1,864 पेजों वाला वही समन्वित नेटवर्क, जिसकी अनुमानित पहुँच 5.9 million उपयोगकर्ताओं तक थी, फ्रांस, इटली, यूनाइटेड किंगडम, संयुक्त राज्य अमेरिका, कनाडा और मेक्सिको में भी सक्रिय था⁠2।

रिपोर्ट का सबसे नुकसानदेह हिस्सा यह है कि प्लेटफ़ॉर्म ने क्या नहीं किया। Reset.Tech ने ऑस्ट्रेलिया के निशाने पर रखे गए जिन पोस्टों को देखा, उनमें से केवल हर 3 में 1 पर AI लेबल था और हर 33 में से केवल 1 हटाई गई⁠2। यह तब भी हुआ जबकि सामग्री ने नकली व्यवहार वाले नेटवर्क, नफरत फैलाने वाली भाषा और AI डीपफेक से संबंधित Facebook की अपनी नीतियों का उल्लंघन किया था⁠2। शोधकर्ताओं ने कहा कि एक छोटी टीम भी नेटवर्क का नक्शा अपेक्षाकृत आसानी से बना सकती थी और पूछा कि इससे कहीं अधिक संसाधन वाले प्लेटफ़ॉर्म ऐसा क्यों नहीं कर सके⁠2।

नेटवर्क के निशाने पर आए स्वतंत्र सीनेटर Pocock ने कहा कि पिछले कुछ महीनों में उनकी टीम को उनके कई डीपफेक भेजे गए हैं और उन्हें चिंता है कि डीपफेक वास्तव में लोकतांत्रिक व्यवस्था को कमजोर करते हैं⁠2। उन्होंने सीधे कारोबारी मॉडल की ओर इशारा किया: यह आक्रोश, अधिक से अधिक समय तक स्क्रीन पर लोगों की निगाहें टिकाए रखने और क्लिक पर आधारित है⁠2। खुद निशाने पर आए Burke ने कहा कि पिछले चुनाव में उन्होंने पहली बार अपनी ऑनलाइन तस्वीरें ऐसे लोगों के साथ देखीं जिनसे वह कभी मिले ही नहीं थे। उन्होंने कहा कि हाल में उन्होंने सहकर्मियों के ऐसे वीडियो और साक्षात्कार भी देखे जिनमें वे ऐसी बातें कहते दिखे जो उन्होंने कभी कही ही नहीं थीं⁠2। उन्होंने ऑस्ट्रेलियाई लोगों से अपने स्रोतों की जाँच करने का आग्रह किया⁠2।