जिनेवा AI संवाद शुरू होते ही गुटेरेस ने 'किलर रोबोट' पर बाध्यकारी प्रतिबंध की मांग की

उनकी बात असामान्य रूप से दो-टूक थी। उन्होंने कहा कि ऐसी मशीनें जो मानवीय नियंत्रण और विवेक के बिना लक्ष्य चुनती हैं, उन पर हमला करती हैं और जान लेती हैं, नैतिक रूप से घृणित हैं, राजनीतिक रूप से अस्वीकार्य हैं, और अंतरराष्ट्रीय कानून द्वारा उन पर प्रतिबंध लगाया जाना चाहिए।⁠9 संयुक्त राष्ट्र प्रमुख का कार्यालय आमतौर पर ऐसी भाषा बारूदी सुरंगों या रासायनिक हथियारों के लिए रखता है, और यह बात ऐसे सप्ताह में आई जब AI सुरक्षा पहले ही वॉशिंगटन के भीतर एक अग्रिम राजनीतिक लड़ाई बन चुकी है।

गुटेरेस ने जिनेवा के मंच का उपयोग एक साथ दो काम करने के लिए किया। उन्होंने स्वायत्त हथियारों संबंधी अपील के साथ एक नए AI बाल सुरक्षा संकल्प का अनावरण किया, जिससे बहस को केवल रक्षा मंत्रालयों का नहीं, बल्कि हर घर को छूने वाला मुद्दा बना दिया गया।⁠4 और उन्होंने यह सब उस घड़ी की पृष्ठभूमि में रखा जिसे उन्होंने खुद शुरू किया था। तीन साल पहले, उनके 'न्यू एजेंडा फॉर पीस' ने घातक स्वायत्त हथियारों पर कानूनी रूप से बाध्यकारी साधन के लिए 2026 को लक्ष्य वर्ष बताया था। उनके शब्दों में, वह समय-सीमा उसी दिन समाप्त हो गई जिस दिन यह संवाद शुरू हुआ।⁠6

संदर्भ महत्वपूर्ण है। कुछ पारंपरिक हथियारों पर संयुक्त राष्ट्र कन्वेंशन, वही संधि जिसने कभी अंधा कर देने वाले लेज़रों पर प्रतिबंध लगाया था, के तहत वार्ता 12 वर्षों से रुकी हुई है, और सर्वसम्मति के उन नियमों में उलझी है जिन्हें कोई भी एक देश प्रगति धीमी करने के लिए हथियार बना सकता है।⁠6 सरकारी विशेषज्ञों के समूह का एक अधिदेश समय समाप्त होने तक चलकर खत्म हो गया है; वर्ष के अंत में एक समीक्षा सम्मेलन होगा। इसी शून्य में गुटेरेस ने चेतावनी दी कि AI बेकाबू गति से आगे बढ़ रहा है, कि हमारे अपने समाजों पर बिना योजना और बिना सहमति के एक प्रयोग चलाया जा रहा है, और यह टिकाऊ नहीं है।⁠5⁠2

उन्होंने स्पष्ट शब्दों में यह नहीं कहा कि अड़ंगा डालने वाले कौन हैं। उन्हें कहने की ज़रूरत भी नहीं थी। CCW की धीमी प्रक्रिया पर नज़र रखने वाले किसी भी व्यक्ति को कूटनीतिक तस्वीर भली-भांति पता है: कुछ सैन्य शक्तियां जिनके पास परिचालन या लगभग परिचालन स्वायत्त हथियार ऑर्डर पर या सेवा में हैं, और देशों की एक लंबी सूची जो वार्ता शुरू करने के बजाय बातचीत जारी रखना पसंद करेगी। जिनेवा वह जगह है जहां ये दोनों धाराएं मिलती हैं।

यह बहस समिति कक्षों तक सीमित नहीं रह सकती, क्योंकि जिस तकनीक को नियंत्रित करने के लिए राजनयिकों से कहा जा रहा है, उसका उपयोग पहले ही हो चुका है। उद्घाटन सत्र की रिपोर्टिंग में कहा गया कि किलर रोबोट अब कोई काल्पनिक बात नहीं हैं, और जिनेवा की बैठक को किसी पूर्वानुमान के बजाय एक वास्तविकता की प्रतिक्रिया के रूप में पेश किया गया।⁠3 दूसरे शब्दों में, संयुक्त राष्ट्र जिस जिन्न के लिए नियम बनाने की कोशिश कर रहा है, वह किसी प्रयोगशाला में नहीं है। वह बेड़े में है।

इसी सप्ताह अमेरिकी रक्षा विभाग और AI कंपनी Anthropic के बीच इस बात पर असामान्य रूप से सार्वजनिक विवाद ने इस बिंदु को रेखांकित किया कि अग्रणी मॉडलों को किन शर्तों के तहत हथियार प्रणालियों में तैनात किया जा सकता है।⁠8⁠11 ऊपरी तौर पर यह विवाद खरीद से जुड़ी बहस है। इसके नीचे वही सवाल है जो गुटेरेस ने सभा के सामने रखा: कौन तय करता है कि किसी मशीन को कब ट्रिगर दबाने की अनुमति है, और कोड में लागू होने से पहले वह निर्णय कागज़ पर कैसा दिखता है।

संयुक्त राष्ट्र का आधिकारिक रुख अब उन नागरिक-समाज गठबंधनों की अभियान भाषा से अलग नहीं दिखता, जो एक दशक से प्रतिबंध के लिए दबाव बना रहे हैं। यह तालमेल भी इस कहानी का हिस्सा है। गुटेरेस ने केवल संधि के लक्ष्य का समर्थन नहीं किया; उन्होंने मांग की कि इस लक्ष्य को कानूनी रूप से बाध्यकारी बनाया जाए, और उन्होंने यह उसी सभाकक्ष में किया जहां CCW वार्ता के अगले दौर का आकलन होगा।⁠2⁠4

यह कमी प्रक्रियागत है। कुछ पारंपरिक हथियारों पर कन्वेंशन सर्वसम्मति से काम करता है। स्वायत्त हथियारों पर प्रतिबंध के लिए ज़रूरी है कि वार्ता में शामिल हर देश सहमत हो, या कम से कम उसे रोके नहीं। ऐसा नहीं हुआ है। ऐसा होने के आसपास भी नहीं पहुंचा गया है। और इस वर्ष के अंत में होने वाला समीक्षा सम्मेलन सरकारी विशेषज्ञों के समूह के किसी प्रभावी अधिदेश के बिना होगा, जो वर्षों के बजाय महीनों की ऐसी अवधि है जिसमें औपचारिक संधि वार्ता शुरू की जा सकती है।⁠6