एआई के उपयोग के जोखिम

कृत्रिम बुद्धिमत्ता (एआई) अब स्मार्टफोन असिस्टेंट्स और सोशल मीडिया फीड्स से लेकर स्वास्थ्य सेवा और परिवहन तक हर जगह शामिल हो गई है। ये तकनीकें अभूतपूर्व लाभ लाती हैं, लेकिन इनके साथ महत्वपूर्ण जोखिम और चुनौतियाँ भी जुड़ी हैं।

इस लेख में, आइए INVIAI के साथ एआई के उपयोग के जोखिम को सभी क्षेत्रों और प्रकारों में देखें – चैटबॉट्स और एल्गोरिदम से लेकर रोबोट तक – आधिकारिक और अंतरराष्ट्रीय स्रोतों से मिली जानकारी के आधार पर।

एआई सिस्टम में पूर्वाग्रह और भेदभाव

एआई का एक प्रमुख जोखिम पूर्वाग्रह और अनुचित भेदभाव का गहरा होना है। एआई मॉडल ऐसे डेटा से सीखते हैं जो ऐतिहासिक पूर्वाग्रहों या असमानताओं को दर्शा सकता है; परिणामस्वरूप, एआई सिस्टम लोगों को जाति, लिंग या अन्य विशेषताओं के आधार पर अलग-अलग तरीके से व्यवहार कर सकता है जो अन्याय को बढ़ावा देते हैं।

गलत काम करने वाला सामान्य प्रयोजन एआई संरक्षित विशेषताओं जैसे जाति, लिंग, संस्कृति, उम्र और विकलांगता के संदर्भ में पूर्वाग्रहपूर्ण निर्णयों के माध्यम से नुकसान पहुंचा सकता है।

— अंतरराष्ट्रीय एआई सुरक्षा रिपोर्ट

यूनेस्को जैसे वैश्विक निकाय चेतावनी देते हैं कि निष्पक्षता उपायों के बिना, एआई जोखिम उठाता है "वास्तविक दुनिया के पूर्वाग्रहों और भेदभाव को दोहराने, विभाजन को बढ़ावा देने और मौलिक मानवाधिकारों और स्वतंत्रताओं को खतरे में डालने" का। यह सुनिश्चित करना आवश्यक है कि एआई सिस्टम विविध, प्रतिनिधि डेटा पर प्रशिक्षित हों और पूर्वाग्रह के लिए ऑडिट किए जाएं ताकि स्वचालित भेदभाव को रोका जा सके।

एआई सिस्टम में पूर्वाग्रह और भेदभाव

गलत सूचना और डीपफेक खतरे

एआई की अत्यंत यथार्थवादी टेक्स्ट, छवियाँ और वीडियो बनाने की क्षमता ने गलत सूचना के प्रकोप का डर पैदा कर दिया है। जनरेटिव एआई विश्वसनीय नकली समाचार लेख, झूठी छवियाँ, या डीपफेक वीडियो बना सकता है जिन्हें वास्तविकता से अलग करना मुश्किल होता है।

वास्तव में, एआई द्वारा बढ़ाई गई गलत सूचना और भ्रामक सूचना लोकतांत्रिक प्रक्रिया के लिए "सबसे बड़ी चुनौतियों में से एक" है – खासकर उन अरबों लोगों के लिए जो आगामी चुनावों में मतदान करने वाले हैं। डीपफेक वीडियो और एआई-क्लोन की गई आवाज़ें प्रचार फैलाने, सार्वजनिक हस्तियों का नकल करने या धोखाधड़ी करने के लिए हथियारबंद की जा सकती हैं।

अधिकारी चेतावनी देते हैं कि दुष्ट तत्व बड़े पैमाने पर गलत सूचना अभियानों के लिए एआई का उपयोग कर सकते हैं, जिससे सोशल नेटवर्क्स को नकली सामग्री से भरना और अराजकता फैलाना आसान हो जाता है। जोखिम एक निराशाजनक सूचना वातावरण का है जहाँ नागरिक जो देखते या सुनते हैं उस पर भरोसा नहीं कर सकते, जिससे सार्वजनिक संवाद और लोकतंत्र कमजोर होता है।

एआई में गलत सूचना और डीपफेक खतरे

गोपनीयता और व्यापक निगरानी के खतरे

एआई के व्यापक उपयोग से गंभीर गोपनीयता चिंताएँ उठती हैं। एआई सिस्टम अक्सर प्रभावी ढंग से काम करने के लिए हमारे चेहरे, आवाज़, खरीदारी की आदतें और स्थान जैसी बड़ी मात्रा में व्यक्तिगत डेटा की आवश्यकता होती है। मजबूत सुरक्षा उपायों के बिना, इस डेटा का दुरुपयोग या शोषण हो सकता है।

उदाहरण के लिए, चेहरे की पहचान और पूर्वानुमानित एल्गोरिदम व्यापक निगरानी सक्षम कर सकते हैं, जो बिना सहमति के व्यक्तियों की हर गतिविधि को ट्रैक कर सकते हैं या उनके व्यवहार को रेट कर सकते हैं।

गोपनीयता मानव गरिमा, स्वायत्तता और एजेंसी की सुरक्षा के लिए आवश्यक अधिकार है जिसे एआई सिस्टम के जीवन चक्र के दौरान सम्मानित किया जाना चाहिए।

— डेटा संरक्षण एजेंसियां

यदि एआई विकास गोपनीयता नियमों से आगे निकल जाता है, तो व्यक्ति अपनी जानकारी पर नियंत्रण खो सकते हैं। समाज को यह सुनिश्चित करना चाहिए कि मजबूत डेटा शासन, सहमति तंत्र, और गोपनीयता-संरक्षण तकनीकें मौजूद हों ताकि एआई तकनीकें अनियंत्रित निगरानी के उपकरण न बनें।

गोपनीयता और व्यापक निगरानी के खतरे

सुरक्षा विफलताएँ और अनचाहा नुकसान

जबकि एआई निर्णयों और भौतिक कार्यों को सुपरह्यूमन दक्षता के साथ स्वचालित कर सकता है, यह अनपेक्षित तरीकों से विफल भी हो सकता है, जिससे वास्तविक दुनिया में नुकसान हो सकता है। हम एआई को अधिक से अधिक सुरक्षा-संवेदनशील जिम्मेदारियां सौंपते हैं – जैसे कार चलाना, रोगियों का निदान करना, या पावर ग्रिड प्रबंधित करना – लेकिन ये सिस्टम अपराजेय नहीं हैं।

गलतियां, दोषपूर्ण प्रशिक्षण डेटा, या अप्रत्याशित परिस्थितियां एआई को खतरनाक गलतियां करने का कारण बन सकती हैं। एक सेल्फ-ड्राइविंग कार का एआई पैदल यात्री को गलत पहचान सकता है, या एक चिकित्सा एआई गलत उपचार की सिफारिश कर सकता है, जिसके परिणाम घातक हो सकते हैं।

अनचाहे नुकसान (सुरक्षा जोखिम), साथ ही हमलों के प्रति कमजोरियां (सुरक्षा जोखिम) को एआई सिस्टम के जीवन चक्र के दौरान टाला और संबोधित किया जाना चाहिए ताकि मानव, पर्यावरण और पारिस्थितिकी तंत्र की सुरक्षा सुनिश्चित हो सके।

— अंतरराष्ट्रीय एआई दिशानिर्देश

दूसरे शब्दों में, एआई सिस्टम का कठोर परीक्षण, निगरानी और फेल-सेफ के साथ निर्माण आवश्यक है ताकि विफलताओं की संभावना न्यूनतम हो। एआई पर अत्यधिक निर्भरता भी जोखिम भरी हो सकती है – यदि मनुष्य स्वचालित निर्णयों पर अंधविश्वास करते हैं, तो वे समय पर हस्तक्षेप नहीं कर पाएंगे जब कुछ गलत हो।

इसलिए मानव निगरानी सुनिश्चित करना महत्वपूर्ण है। उच्च जोखिम वाले उपयोगों (जैसे स्वास्थ्य सेवा या परिवहन) में अंतिम निर्णय मानव निर्णय पर निर्भर होना चाहिए। एआई में सुरक्षा और विश्वसनीयता बनाए रखना एक सतत चुनौती है, जिसके लिए एआई डेवलपर्स से सावधानीपूर्वक डिजाइन और जिम्मेदारी की संस्कृति की आवश्यकता होती है।

एआई में सुरक्षा विफलताएँ और अनचाहा नुकसान

नौकरी विस्थापन और आर्थिक व्यवधान

एआई का अर्थव्यवस्था पर परिवर्तनकारी प्रभाव दोधारी तलवार है। एक ओर, एआई उत्पादकता बढ़ा सकता है और पूरी नई उद्योग बना सकता है; दूसरी ओर, यह स्वचालन के माध्यम से लाखों श्रमिकों को विस्थापित करने का जोखिम भी रखता है।

कई नौकरियां – विशेष रूप से वे जो नियमित, दोहराए जाने वाले कार्यों या आसानी से विश्लेषण किए जाने वाले डेटा से संबंधित हैं – एआई एल्गोरिदम और रोबोट द्वारा अधिग्रहित होने के लिए संवेदनशील हैं।

हालांकि अर्थव्यवस्था नई भूमिकाएं भी बना सकती है (संभावित रूप से खोई हुई नौकरियों से अधिक), संक्रमण कई लोगों के लिए दर्दनाक होगा। प्राप्त की गई नौकरियां अक्सर अलग, अधिक उन्नत कौशल की मांग करती हैं या कुछ तकनीकी केंद्रों में केंद्रित होती हैं, जिसका अर्थ है कि कई विस्थापित श्रमिकों के लिए नई जगह पाना मुश्किल हो सकता है।

यह कौशलों के बीच असंगति जो श्रमिकों के पास है और नई एआई-संचालित भूमिकाओं की मांग करती हैं उच्च बेरोजगारी और असमानता का कारण बन सकती है यदि इसे संबोधित न किया जाए। वास्तव में, नीति निर्माता और शोधकर्ता चेतावनी देते हैं कि तेज़ एआई प्रगति "श्रम बाजार में व्यवधान और आर्थिक शक्ति की असमानताएं" ला सकती है।

सक्रिय उपायों (जैसे पुनः प्रशिक्षण कार्यक्रम, एआई कौशल में शिक्षा, और सामाजिक सुरक्षा जाल) के बिना, एआई सामाजिक-आर्थिक अंतराल को बढ़ा सकता है, एक ऐसी एआई-संचालित अर्थव्यवस्था बनाकर जहाँ तकनीक के मालिक अधिकांश लाभ उठाते हैं।

कार्यबल को एआई के प्रभाव के लिए तैयार करना आवश्यक है ताकि स्वचालन के लाभ व्यापक रूप से साझा किए जा सकें और व्यापक नौकरी हानि से सामाजिक उथल-पुथल को रोका जा सके।

एआई में नौकरी विस्थापन और आर्थिक व्यवधान

आपराधिक दुरुपयोग, धोखाधड़ी, और सुरक्षा खतरे

एआई एक शक्तिशाली उपकरण है जिसे उतनी ही आसानी से दुष्ट उद्देश्यों के लिए इस्तेमाल किया जा सकता है जितना कि नेक उद्देश्यों के लिए। साइबर अपराधी और अन्य दुष्ट तत्व पहले से ही अपने हमलों को बढ़ाने के लिए एआई का उपयोग कर रहे हैं।

उदाहरण के लिए, एआई अत्यंत व्यक्तिगत फ़िशिंग ईमेल या वॉइस मैसेज (किसी की आवाज़ की नकल करके) बना सकता है ताकि लोगों को संवेदनशील जानकारी प्रकट करने या पैसे भेजने के लिए धोखा दिया जा सके। यह सॉफ़्टवेयर कमजोरियों को बड़े पैमाने पर खोजने या पहचान से बचने वाले मैलवेयर विकसित करने के लिए भी इस्तेमाल किया जा सकता है।

दुष्ट तत्व बड़े पैमाने पर गलत सूचना और प्रभाव अभियान, धोखाधड़ी, और घोटालों के लिए एआई का उपयोग कर सकते हैं।

— यू.के. सरकार-आयोगित रिपोर्ट

एआई सुरक्षा केंद्र एआई के दुष्ट उपयोग को एक प्रमुख चिंता के रूप में पहचानता है, जिसमें अपराधियों द्वारा बड़े पैमाने पर धोखाधड़ी और साइबर हमले करने के परिदृश्य शामिल हैं।

एआई की गति, पैमाना, और परिष्कार पारंपरिक सुरक्षा उपायों को अभिभूत कर सकते हैं – कल्पना करें कि एक दिन में हजारों एआई-जनित घोटाला कॉल या डीपफेक वीडियो किसी कंपनी की सुरक्षा को निशाना बना रहे हों।

जैसे-जैसे एआई उपकरण अधिक सुलभ होते जा रहे हैं, इन दुष्ट गतिविधियों को अंजाम देने की बाधा कम हो रही है, जिससे एआई-संवर्धित अपराध में वृद्धि हो सकती है।

इसलिए साइबर सुरक्षा और कानून प्रवर्तन के लिए नए दृष्टिकोण आवश्यक हैं, जैसे डीपफेक या असामान्य व्यवहार का पता लगाने वाले एआई सिस्टम और अपराधियों को जवाबदेह ठहराने के लिए अद्यतन कानूनी ढांचे। मूल रूप से, हमें यह मानना होगा कि जो भी क्षमता एआई लाभार्थियों को प्रदान करता है, वह अपराधियों को भी समान रूप से प्रदान कर सकता है – और तदनुसार तैयारी करनी चाहिए।

एआई में आपराधिक दुरुपयोग, धोखाधड़ी, और सुरक्षा खतरे

सैन्यीकरण और स्वायत्त हथियार

शायद एआई का सबसे भयावह जोखिम युद्ध और राष्ट्रीय सुरक्षा के संदर्भ में उभरता है। एआई तेजी से सैन्य प्रणालियों में एकीकृत हो रहा है, जिससे स्वायत्त हथियारों ("किलर रोबोट") और युद्ध में एआई-संचालित निर्णय लेने की संभावना बढ़ रही है।

ये तकनीकें किसी भी मानव से तेज़ प्रतिक्रिया कर सकती हैं, लेकिन घातक बल के उपयोग से मानव नियंत्रण हटाना खतरनाक है। जोखिम है कि एआई-नियंत्रित हथियार गलत लक्ष्य चुन सकता है या अनपेक्षित तरीकों से संघर्ष को बढ़ा सकता है।

यदि राष्ट्र अपने हथियारों को बुद्धिमान हथियारों से लैस करने की दौड़ में लग जाते हैं, तो यह एक अस्थिर करने वाली हथियारों की दौड़ को जन्म दे सकता है। इसके अलावा, एआई का उपयोग साइबर युद्ध में महत्वपूर्ण अवसंरचना पर स्वायत्त हमले करने या प्रचार फैलाने के लिए किया जा सकता है, जिससे शांति और संघर्ष के बीच की रेखा धुंधली हो जाती है।

युद्ध में एआई का विकास, यदि कुछ के हाथों में केंद्रित हो, तो इसे लोगों पर बिना उनकी सहमति के लागू किया जा सकता है, जिससे वैश्विक सुरक्षा और नैतिकता कमजोर हो सकती है।

— संयुक्त राष्ट्र

स्वायत्त हथियार प्रणालियां कानूनी और नैतिक दुविधाएं भी प्रस्तुत करती हैं – यदि एआई ड्रोन गलती से नागरिकों को मारता है तो कौन जिम्मेदार होगा? ऐसे सिस्टम अंतरराष्ट्रीय मानवीय कानून का पालन कैसे करते हैं?

इन अनुत्तरित प्रश्नों ने कुछ एआई-सक्षम हथियारों पर प्रतिबंध या कड़ी विनियमन की मांग की है। जीवन और मृत्यु के निर्णय लेने वाले किसी भी एआई पर मानव निगरानी सुनिश्चित करना व्यापक रूप से सर्वोपरि माना जाता है। इसके बिना, जोखिम केवल युद्धक्षेत्र पर दुखद गलतियां नहीं बल्कि युद्ध में मानव जिम्मेदारी का क्षरण भी है।

एआई में सैन्यीकरण और स्वायत्त हथियार

पारदर्शिता और जवाबदेही की कमी

आज के अधिकांश उन्नत एआई सिस्टम "ब्लैक बॉक्स" के रूप में काम करते हैं – उनकी आंतरिक तर्क अक्सर उनके निर्माताओं के लिए भी अस्पष्ट होती है। पारदर्शिता की यह कमी जोखिम पैदा करती है कि एआई निर्णयों को समझाया या चुनौती नहीं दिया जा सकता, जो न्याय, वित्त या स्वास्थ्य सेवा जैसे क्षेत्रों में गंभीर समस्या है जहाँ व्याख्यात्मकता कानूनी या नैतिक आवश्यकता हो सकती है।

यदि एआई किसी को ऋण अस्वीकार करता है, बीमारी का निदान करता है, या यह तय करता है कि कौन जेल से पैरोल पर जाएगा, तो हम स्वाभाविक रूप से जानना चाहते हैं क्यों। कुछ एआई मॉडलों (विशेषकर जटिल न्यूरल नेटवर्क) के साथ, स्पष्ट तर्क प्रदान करना कठिन होता है।

पारदर्शिता की कमी एआई सिस्टम द्वारा उत्पन्न परिणामों के आधार पर निर्णयों को प्रभावी ढंग से चुनौती देने की संभावना को कमजोर कर सकती है, और इस प्रकार निष्पक्ष परीक्षण और प्रभावी उपचार के अधिकार का उल्लंघन कर सकती है।

— यूनेस्को

दूसरे शब्दों में, यदि उपयोगकर्ता या नियामक यह समझ नहीं पाते कि एआई निर्णय कैसे ले रहा है, तो किसी को भी गलतियों या पूर्वाग्रहों के लिए जवाबदेह ठहराना लगभग असंभव हो जाता है।

इससे निपटने के लिए, विशेषज्ञ व्याख्यात्मक एआई तकनीकों, कठोर ऑडिटिंग, और नियामक आवश्यकताओं की वकालत करते हैं कि एआई निर्णय मानव प्राधिकरण से ट्रेस किए जा सकें।

वास्तव में, वैश्विक नैतिक दिशानिर्देश जोर देते हैं कि एआई सिस्टम के व्यवहार के लिए "हमेशा नैतिक और कानूनी जिम्मेदारी किसी व्यक्ति या संगठन को सौंपना संभव होना चाहिए"। मानव अंततः जवाबदेह रहना चाहिए, और संवेदनशील मामलों में एआई को मानव निर्णय की जगह नहीं बल्कि सहायता करनी चाहिए। अन्यथा, हम एक ऐसी दुनिया बना सकते हैं जहाँ महत्वपूर्ण निर्णय अस्पष्ट मशीनों द्वारा लिए जाते हैं, जो अन्याय का नुस्खा है।

कार्यस्थल में एआई के उपयोग में पारदर्शिता और जवाबदेही की कमी

शक्ति का संकेंद्रण और असमानता

एआई क्रांति दुनिया भर में समान रूप से नहीं हो रही है – कुछ कंपनियां और देश उन्नत एआई के विकास पर हावी हैं, जो अपने आप में जोखिम लेकर आता है।

अत्याधुनिक एआई मॉडल के लिए विशाल डेटा, प्रतिभा, और कंप्यूटिंग संसाधनों की आवश्यकता होती है जो केवल तकनीकी दिग्गजों (और अच्छी तरह से वित्त पोषित सरकारों) के पास वर्तमान में है।

इसने एक अत्यधिक केंद्रीकृत, एकल, वैश्विक एकीकृत आपूर्ति श्रृंखला बनाई है जो कुछ कंपनियों और देशों को लाभ पहुंचाती है।

— विश्व आर्थिक मंच

एआई शक्ति का यह संकेंद्रण एआई तकनीकों पर मोनोपोलिस्टिक नियंत्रण में बदल सकता है, जो प्रतिस्पर्धा और उपभोक्ता विकल्पों को सीमित करता है। यह खतरा भी बढ़ाता है कि उन कुछ कंपनियों या देशों की प्राथमिकताएं एआई को ऐसे तरीकों से आकार दें जो व्यापक सार्वजनिक हितों का ध्यान न रखें।

यह असंतुलन वैश्विक असमानताओं को बढ़ा सकता है: धनी राष्ट्र और फर्म एआई का लाभ उठाकर आगे बढ़ते हैं, जबकि गरीब समुदाय नवीनतम उपकरणों तक पहुंच के बिना और नौकरी हानि के साथ संघर्ष करते हैं।

इसके अलावा, एक केंद्रीकृत एआई उद्योग नवाचार को दबा सकता है (यदि नए प्रवेशकर्ता संसाधनों में प्रतिस्पर्धा नहीं कर सकते) और सुरक्षा जोखिम पैदा कर सकता है (यदि महत्वपूर्ण एआई अवसंरचना केवल कुछ संस्थाओं के नियंत्रण में हो, तो यह विफलता या हेरफेर का एकल बिंदु बन जाता है)।

इस जोखिम को संबोधित करने के लिए अंतरराष्ट्रीय सहयोग और संभवतः नए नियमों की आवश्यकता है ताकि एआई विकास लोकतांत्रिक हो सके – उदाहरण के लिए, खुले अनुसंधान का समर्थन करना, डेटा और कंप्यूटिंग तक निष्पक्ष पहुंच सुनिश्चित करना, और "एआई गेटकीपर्स" द्वारा दुरुपयोग को रोकने के लिए नीतियां बनाना (जैसे यूरोपीय संघ का प्रस्तावित एआई अधिनियम)। एक अधिक समावेशी एआई परिदृश्य यह सुनिश्चित करेगा कि एआई के लाभ वैश्विक स्तर पर साझा हों, न कि तकनीकी धनी और गरीब के बीच अंतर बढ़ाएं।

शक्ति का संकेंद्रण और असमानता

एआई का पर्यावरणीय प्रभाव

एआई के जोखिमों की चर्चा में अक्सर इसका पर्यावरणीय पदचिह्न अनदेखा किया जाता है। एआई विकास, विशेष रूप से बड़े मशीन लर्निंग मॉडल का प्रशिक्षण, विशाल मात्रा में बिजली और कंप्यूटिंग शक्ति का उपभोग करता है।

डेटा केंद्र हजारों बिजली-खपत करने वाले सर्वरों से भरे होते हैं जो उस डेटा को संसाधित करते हैं जिससे एआई सिस्टम सीखते हैं। इसका अर्थ है कि एआई अप्रत्यक्ष रूप से कार्बन उत्सर्जन और जलवायु परिवर्तन में योगदान कर सकता है।

जैसे-जैसे एआई में निवेश बढ़ता है, एआई मॉडल चलाने से होने वाला उत्सर्जन तेजी से बढ़ने की उम्मीद है – रिपोर्ट ने अनुमान लगाया कि शीर्ष एआई सिस्टम संयुक्त रूप से प्रति वर्ष 100 मिलियन टन से अधिक CO₂ उत्सर्जित कर सकते हैं, जो ऊर्जा अवसंरचना पर महत्वपूर्ण दबाव डालता है।

तुलना के लिए, एआई संचालित डेटा केंद्र बिजली की खपत को "कुल बिजली खपत की वृद्धि की तुलना में चार गुना तेज़ी से बढ़ा रहे हैं"।

कार्बन उत्सर्जन के अलावा, एआई ठंडा करने के लिए पानी की खपत भी कर सकता है और हार्डवेयर के तेजी से उन्नयन के कारण इलेक्ट्रॉनिक कचरा उत्पन्न कर सकता है। यदि इसे नियंत्रित न किया गया, तो एआई का पर्यावरणीय प्रभाव वैश्विक स्थिरता प्रयासों को कमजोर कर सकता है।

यह जोखिम एआई को अधिक ऊर्जा-कुशल बनाने और स्वच्छ ऊर्जा स्रोतों का उपयोग करने की मांग करता है। शोधकर्ता ऊर्जा उपयोग कम करने के लिए ग्रीन एआई तकनीक विकसित कर रहे हैं, और कुछ कंपनियों ने एआई के कार्बन लागत को ऑफसेट करने का वचन दिया है। फिर भी, यह एक गंभीर चिंता बनी हुई है कि एआई की दौड़ का भारी पर्यावरणीय मूल्य हो सकता है। तकनीकी प्रगति और पारिस्थितिक जिम्मेदारी के बीच संतुलन बनाना एक और चुनौती है जिसे समाज को एआई के व्यापक एकीकरण के साथ नेविगेट करना होगा।

एआई का पर्यावरणीय प्रभाव

अस्तित्वगत और दीर्घकालिक जोखिम

तत्काल जोखिमों से परे, कुछ विशेषज्ञ एआई से अधिक सैद्धांतिक, दीर्घकालिक जोखिमों की चेतावनी देते हैं – जिसमें एक उन्नत एआई की संभावना शामिल है जो मानव नियंत्रण से बाहर हो जाए। जबकि आज के एआई सिस्टम अपनी क्षमताओं में सीमित हैं, शोधकर्ता अधिक सामान्य एआई की दिशा में सक्रिय रूप से काम कर रहे हैं जो कई क्षेत्रों में मनुष्यों से बेहतर प्रदर्शन कर सकता है।

यह जटिल प्रश्न उठाता है: यदि कोई एआई अत्यधिक बुद्धिमान या स्वायत्त हो जाता है, क्या वह ऐसे तरीके से कार्य कर सकता है जो मानव अस्तित्व के लिए खतरा हो? हालांकि यह विज्ञान कथा जैसा लगता है, तकनीकी समुदाय के प्रमुख व्यक्तियों ने "रोगी एआई" परिदृश्यों के बारे में चिंता व्यक्त की है, और सरकारें इस चर्चा को गंभीरता से ले रही हैं।

विशेषज्ञों के बीच एआई पर मानव नियंत्रण खोने के जोखिम को लेकर विभिन्न मत हैं, जो विनाशकारी परिणामों का कारण बन सकता है।

— अंतरराष्ट्रीय एआई सुरक्षा रिपोर्ट

वैज्ञानिक सहमति समान नहीं है – कुछ मानते हैं कि सुपर-बुद्धिमान एआई दशकों दूर है या इसे मानव मूल्यों के अनुरूप रखा जा सकता है, जबकि अन्य विनाशकारी परिणामों की एक छोटी लेकिन गैर-शून्य संभावना देखते हैं।

मूल रूप से, यह स्वीकार किया जाता है कि एआई से अस्तित्वगत जोखिम, हालांकि दूरस्थ हो, पूरी तरह से खारिज नहीं किया जा सकता। ऐसा परिणाम एक एआई हो सकता है जो अपने लक्ष्यों को मानव कल्याण के नुकसान पर पूरा करता है (क्लासिक उदाहरण एक ऐसा एआई है जो यदि गलत प्रोग्राम किया गया तो सामान्य ज्ञान या नैतिक प्रतिबंधों के बिना बड़े पैमाने पर हानिकारक कार्य कर सकता है)।

हालांकि आज कोई भी एआई इतनी एजेंसी नहीं रखता, एआई प्रगति की गति तेज़ और अप्रत्याशित है, जो स्वयं एक जोखिम कारक है।

दीर्घकालिक जोखिमों के लिए तैयारी का मतलब है एआई संरेखण अनुसंधान में निवेश करना (यह सुनिश्चित करना कि एआई लक्ष्य मानव मूल्यों के अनुरूप रहें), उच्च जोखिम वाले एआई अनुसंधान पर अंतरराष्ट्रीय समझौते स्थापित करना (जैसे परमाणु या जैविक हथियारों पर संधि), और जैसे-जैसे एआई सिस्टम अधिक सक्षम होते हैं, मानव निगरानी बनाए रखना।

एआई का भविष्य विशाल संभावनाएं रखता है, लेकिन साथ ही अनिश्चितता भी – और विवेक यह निर्देशित करता है कि हम अपने दीर्घकालिक योजना में कम संभावना वाले, उच्च प्रभाव वाले जोखिमों पर भी विचार करें।

एआई में अस्तित्वगत और दीर्घकालिक जोखिम

एआई के भविष्य को जिम्मेदारी से नेविगेट करना

एआई की तुलना अक्सर एक शक्तिशाली इंजन से की जाती है जो मानवता को आगे बढ़ा सकता है – लेकिन बिना ब्रेक और स्टीयरिंग के, वह इंजन रास्ते से भटक सकता है। जैसा कि हमने देखा, एआई के उपयोग के जोखिम बहुआयामी हैं: तत्काल मुद्दों से लेकर जैसे पूर्वाग्रहपूर्ण एल्गोरिदम, नकली समाचार, गोपनीयता का उल्लंघन, और नौकरी में उथल-पुथल, व्यापक सामाजिक चुनौतियों तक जैसे सुरक्षा खतरे, "ब्लैक बॉक्स" निर्णय, बड़ी तकनीकी कंपनियों का एकाधिकार, पर्यावरणीय दबाव, और यहां तक कि सुपर-बुद्धिमान एआई के नियंत्रण खोने का दूरस्थ खतरा।

सरकारें, अंतरराष्ट्रीय संगठन, उद्योग नेता, और शोधकर्ता इन चिंताओं को संबोधित करने के लिए बढ़ती साझेदारी कर रहे हैं – उदाहरण के लिए, निम्नलिखित ढांचों के माध्यम से:

• यू.एस. NIST एआई जोखिम प्रबंधन फ्रेमवर्क (एआई विश्वसनीयता सुधारने के लिए)
• यूनेस्को की वैश्विक एआई नैतिकता सिफारिश
• यूरोपीय संघ का एआई अधिनियम

ऐसे प्रयासों का उद्देश्य है एआई के लाभों को अधिकतम करना और इसके नकारात्मक पहलुओं को कम करना, यह सुनिश्चित करते हुए कि एआई मानवता की सेवा करे न कि इसके विपरीत।