World

UN urges moratorium on use of AI that imperils human rights

जेनेवा: संयुक्त राष्ट्र मानवाधिकार प्रमुख कृत्रिम बुद्धिमत्ता तकनीक के उपयोग पर रोक लगाने का आह्वान कर रहे हैं, जो मानव अधिकारों के लिए एक गंभीर खतरा है, जिसमें फेस-स्कैनिंग सिस्टम शामिल हैं जो सार्वजनिक स्थानों पर लोगों को ट्रैक करते हैं।
मिशेल बैचेलेटसंयुक्त राष्ट्र मानवाधिकार उच्चायुक्त ने बुधवार को यह भी कहा कि देशों को स्पष्ट रूप से एआई अनुप्रयोगों पर प्रतिबंध लगाना चाहिए जो अंतरराष्ट्रीय मानवाधिकार कानून का पालन नहीं करते हैं।
जिन अनुप्रयोगों को प्रतिबंधित किया जाना चाहिए उनमें सरकारी “सामाजिक स्कोरिंग” सिस्टम शामिल हैं जो लोगों को उनके व्यवहार और कुछ एआई-आधारित टूल के आधार पर आंकते हैं जो लोगों को जातीयता या लिंग जैसे समूहों में वर्गीकृत करते हैं।
बाचेलेट ने एक बयान में कहा, एआई-आधारित प्रौद्योगिकियां अच्छे के लिए एक ताकत हो सकती हैं, लेकिन वे “नकारात्मक, यहां तक ​​​​कि विनाशकारी, प्रभाव भी डाल सकते हैं यदि उनका उपयोग इस बात पर पर्याप्त ध्यान दिए बिना किया जाता है कि वे लोगों के मानवाधिकारों को कैसे प्रभावित करते हैं।”
उनकी टिप्पणी संयुक्त राष्ट्र की एक नई रिपोर्ट के साथ आई, जो इस बात की जांच करती है कि भेदभाव और अन्य नुकसान को रोकने के लिए उचित सुरक्षा उपाय स्थापित किए बिना देशों और व्यवसायों ने एआई सिस्टम कैसे लागू किया है जो लोगों के जीवन और आजीविका को प्रभावित करते हैं।
“यह एआई नहीं होने के बारे में नहीं है,” पैगी हिक्स, अधिकार कार्यालय के विषयगत जुड़ाव के निदेशक ने जिनेवा में रिपोर्ट प्रस्तुत करते हुए पत्रकारों को बताया। “यह पहचानने के बारे में है कि अगर इन मानवाधिकारों में एआई का उपयोग किया जा रहा है – बहुत महत्वपूर्ण – कार्य क्षेत्रों, तो इसे सही तरीके से किया जाना है। और हमने अभी तक ऐसा ढांचा नहीं बनाया है जो यह सुनिश्चित करे कि ऐसा हो।
बाचेलेट ने चेहरे की पहचान तकनीक पर पूरी तरह से प्रतिबंध लगाने का आह्वान नहीं किया, लेकिन कहा कि सरकारों को वास्तविक समय में लोगों की विशेषताओं की स्कैनिंग रोक देनी चाहिए, जब तक कि वे यह नहीं दिखा सकते कि तकनीक सटीक है, भेदभाव नहीं करेगी और कुछ गोपनीयता और डेटा सुरक्षा मानकों को पूरा करती है।
जबकि रिपोर्ट में देशों का नाम नहीं लिया गया था, चीन उन देशों में शामिल है, जिन्होंने चेहरे की पहचान तकनीक शुरू की है – विशेष रूप से शिनजियांग के पश्चिमी क्षेत्र में निगरानी के लिए, जहां इसके कई अल्पसंख्यक उइगर रहते हैं। रिपोर्ट के प्रमुख लेखकों ने कहा कि विशिष्ट देशों का नामकरण उनके जनादेश का हिस्सा नहीं था और ऐसा करना प्रतिकूल भी हो सकता है।
“चीनी संदर्भ में, अन्य संदर्भों की तरह, हम पारदर्शिता और भेदभावपूर्ण अनुप्रयोगों के बारे में चिंतित हैं जो विशेष समुदायों को संबोधित करते हैं,” हिक्स ने कहा।
उसने संयुक्त राज्य अमेरिका और ऑस्ट्रेलिया में कई अदालती मामलों का हवाला दिया जहां कृत्रिम बुद्धि को गलत तरीके से लागू किया गया था।
रिपोर्ट उन उपकरणों के बारे में भी चेतावनी देती है जो लोगों के चेहरे के भाव या शरीर की गतिविधियों का विश्लेषण करके उनकी भावनात्मक और मानसिक स्थिति को कम करने की कोशिश करते हैं, यह कहते हुए कि ऐसी तकनीक पूर्वाग्रह, गलत व्याख्याओं के लिए अतिसंवेदनशील है और वैज्ञानिक आधार का अभाव है।
“सार्वजनिक अधिकारियों द्वारा भावना पहचान प्रणाली का उपयोग, उदाहरण के लिए पुलिस स्टॉप या गिरफ्तारी के लिए व्यक्तियों को अलग करने के लिए या पूछताछ के दौरान बयानों की सत्यता का आकलन करने के लिए, मानवाधिकारों को कमजोर करने वाले जोखिम, जैसे गोपनीयता के अधिकार, स्वतंत्रता और निष्पक्षता के अधिकार परीक्षण, ”रिपोर्ट कहती है।
रिपोर्ट की सिफारिशें पश्चिमी लोकतंत्रों में कई राजनीतिक नेताओं की सोच को प्रतिध्वनित करती हैं, जो एआई की आर्थिक और सामाजिक क्षमता में टैप करने की उम्मीद करते हैं, जो उपकरणों की विश्वसनीयता के बारे में बढ़ती चिंताओं को संबोधित करते हैं जो व्यक्तियों को ट्रैक और प्रोफाइल कर सकते हैं और इस बारे में सिफारिशें कर सकते हैं कि किसे नौकरियों, ऋणों तक पहुंच प्राप्त है। और शैक्षिक अवसर।
यूरोपीय नियामकों ने सबसे जोखिम वाले एआई अनुप्रयोगों पर लगाम लगाने के लिए पहले ही कदम उठा लिए हैं। इस वर्ष यूरोपीय संघ के अधिकारियों द्वारा उल्लिखित प्रस्तावित नियम एआई के कुछ उपयोगों पर प्रतिबंध लगा देंगे, जैसे कि चेहरे की विशेषताओं की रीयल-टाइम स्कैनिंग, और दूसरों को सख्ती से नियंत्रित करना जो लोगों की सुरक्षा या अधिकारों को खतरे में डाल सकते हैं।
अमेरिकी राष्ट्रपति जो बिडेन के प्रशासन ने भी इसी तरह की चिंता व्यक्त की है, हालांकि इसने अभी तक उन्हें कम करने के लिए एक विस्तृत दृष्टिकोण की रूपरेखा नहीं दी है। एक नवगठित समूह जिसे कहा जाता है व्यापार और प्रौद्योगिकी परिषद, संयुक्त रूप से अमेरिकी और यूरोपीय अधिकारियों के नेतृत्व में, एआई और अन्य तकनीकी नीति के लिए साझा नियमों को विकसित करने में सहयोग करने की मांग की है।
एआई के सबसे जोखिम भरे उपयोगों को सीमित करने के प्रयासों को माइक्रोसॉफ्ट और अन्य अमेरिकी तकनीकी दिग्गजों द्वारा समर्थित किया गया है जो प्रौद्योगिकी को प्रभावित करने वाले नियमों का मार्गदर्शन करने की उम्मीद करते हैं। हिक्स ने कहा कि माइक्रोसॉफ्ट ने संयुक्त राष्ट्र के अधिकार कार्यालय के साथ काम किया है और प्रौद्योगिकी के उपयोग को बेहतर बनाने में मदद करने के लिए धन मुहैया कराया है, लेकिन रिपोर्ट के लिए धन अधिकार कार्यालय के नियमित बजट के माध्यम से आया है, हिक्स ने कहा।
एआई के भेदभावपूर्ण उपयोग के बारे में चिंता व्यक्त करने में पश्चिमी देश सबसे आगे रहे हैं।
अमेरिकी वाणिज्य सचिव ने कहा, “यदि आप उन तरीकों के बारे में सोचते हैं जिनसे एआई को भेदभावपूर्ण तरीके से इस्तेमाल किया जा सकता है या भेदभावपूर्ण प्रवृत्ति को और मजबूत किया जा सकता है, तो यह बहुत डरावना है।” जीना रायमोंडो जून में एक आभासी सम्मेलन के दौरान। “हमें यह सुनिश्चित करना होगा कि हम ऐसा न होने दें।”
वह डिजिटल युग के लिए यूरोपीय आयोग के कार्यकारी उपाध्यक्ष मार्ग्रेथ वेस्टेगर के साथ बात कर रही थीं, जिन्होंने सुझाव दिया कि “हमारे जैसे लोकतंत्रों” में एआई के कुछ उपयोग पूरी तरह से ऑफ-लिमिट होने चाहिए। उसने सामाजिक स्कोरिंग का हवाला दिया, जो समाज में किसी के विशेषाधिकारों को बंद कर सकता है, और “सार्वजनिक स्थान में दूरस्थ बायोमेट्रिक पहचान का व्यापक, व्यापक उपयोग।”




Source link

Leave a Reply

Your email address will not be published. Required fields are marked *