अपडेट 1 / 1नवीनतमदिन 1
बाल शोषण के तीन में से एक मामले में अब AI शामिल, पुलिस की चेतावनी
प्रिंस एडवर्ड आइलैंड की पुलिस का कहना है कि ऑनलाइन बाल शोषण के लगभग एक-तिहाई मामलों में अब AI से बनी तस्वीरें शामिल हैं। अमेरिका में गिरफ़्तारियों और स्कूलों में डीपफ़ेक विवादों से पता चलता है कि मासूम तस्वीरें कितनी तेज़ी से शोषणकारी सामग्री में बदल सकती हैं।
हमें सबसे पहले क्या पता था
- P.E.I. RCMP की ऑनलाइन बाल शोषण संबंधी लगभग एक-तिहाई जाँचों में AI से बनाई या बदली गई तस्वीरें शामिल हैं।
- AI से बनाई गई शोषणकारी तस्वीरें कथित तौर पर Discord पर अपलोड करने के बाद 19 अगस्त को मैडिसन के एक व्यक्ति को गिरफ़्तार किया गया।
- क्लार्क काउंटी में अगस्त के सात मामलों में संदिग्धों की हार्ड ड्राइव पर AI से बनी सामग्री मिली।
तब तक अनसुलझा
- एक-तिहाई के आँकड़े की अवधि, AI से जुड़े आरोपों या दोषसिद्धियों की संख्या और न्यूडिफ़िकेशन के लिए सबसे ज़्यादा इस्तेमाल किए जाने वाले प्लेटफ़ॉर्म की जानकारी सार्वजनिक नहीं है।
जिस पर हमने नज़र रखने की बात कही थी
- क्या जाँचकर्ता, स्कूल और प्लेटफ़ॉर्म पहचान और रिपोर्टिंग की गति को सामग्री बनाने की गति के अनुरूप रख सकते हैं।