क्या एआई खतरनाक है?
एआई किसी भी शक्तिशाली तकनीक की तरह है: जब जिम्मेदारी से उपयोग किया जाए तो यह बहुत लाभकारी हो सकता है, और गलत उपयोग से नुकसान भी पहुंचा सकता है।
कृत्रिम बुद्धिमत्ता (एआई) कंप्यूटर सिस्टम को संदर्भित करता है जो मानव बुद्धिमत्ता की नकल करते हैं – उदाहरण के लिए, ऐसे प्रोग्राम जो छवियों को पहचान सकते हैं, भाषा को समझ सकते हैं, या निर्णय ले सकते हैं। रोज़मर्रा की ज़िंदगी में, एआई स्मार्टफोन पर वॉयस असिस्टेंट, सोशल मीडिया पर सिफारिश प्रणाली, और यहां तक कि उन्नत चैटबॉट्स को संचालित करता है जो टेक्स्ट लिखते हैं।
एआई के पास कई क्षेत्रों में सुधार करने की बड़ी क्षमता है, लेकिन यह कई चिंताएं भी उत्पन्न करता है।
तो, क्या एआई खतरनाक है? यह लेख दोनों पक्षों का पता लगाएगा: एआई के वास्तविक लाभ और विशेषज्ञों द्वारा उजागर किए गए खतरे।
एआई के वास्तविक लाभ
एआई पहले से ही कई उपयोगी अनुप्रयोगों में एकीकृत है जो इसके समाज पर सकारात्मक प्रभाव को दर्शाते हैं।
एआई ने दुनिया भर में कई अवसर पैदा किए हैं – तेज़ चिकित्सा निदान से लेकर सोशल मीडिया के माध्यम से बेहतर कनेक्टिविटी और थकाऊ कार्यों के स्वचालन तक।
— यूनेस्को
यूरोपीय संघ भी इस बात पर जोर देता है कि "विश्वसनीय एआई कई लाभ ला सकता है" जैसे कि बेहतर स्वास्थ्य सेवा, सुरक्षित परिवहन, और अधिक कुशल उद्योग और ऊर्जा उपयोग। चिकित्सा में, विश्व स्वास्थ्य संगठन रिपोर्ट करता है कि निदान, दवा विकास और महामारी प्रतिक्रिया के लिए एआई का उपयोग किया जा रहा है, और देशों से इन नवाचारों को सभी के लिए बढ़ावा देने का आग्रह करता है।
अर्थशास्त्री भी एआई के तेज़ प्रसार की तुलना पिछले तकनीकी क्रांतियों से करते हैं।
एआई के प्रमुख लाभ
बेहतर स्वास्थ्य सेवा
एआई सिस्टम एक्स-रे, एमआरआई और रोगी डेटा को मनुष्यों से तेज़ी से विश्लेषित कर सकते हैं, जिससे बीमारी का जल्दी पता लगाना और व्यक्तिगत उपचार संभव होता है।
- एआई-सहायता प्राप्त इमेजिंग से डॉक्टरों द्वारा छूटे हुए ट्यूमर मिल सकते हैं
- तेज़ निदान और उपचार सिफारिशें
- रोगी डेटा के आधार पर व्यक्तिगत दवा
अधिक दक्षता
कारखानों, कार्यालयों और सेवाओं में स्वचालित प्रक्रियाएं उत्पादकता को काफी बढ़ाती हैं।
- अधिक कुशल निर्माण प्रक्रियाएं
- स्मार्ट ऊर्जा ग्रिड और संसाधन प्रबंधन
- मनुष्य रचनात्मक या जटिल कार्यों पर ध्यान केंद्रित कर सकते हैं
सुरक्षित परिवहन
स्व-चालित कार तकनीक और ट्रैफिक-प्रबंधन एआई दुर्घटनाओं और जाम को कम करने का लक्ष्य रखते हैं।
- बेहतर आपदा चेतावनी प्रणाली
- संगठित लॉजिस्टिक्स और शिपिंग
- परिवहन में मानवीय त्रुटि में कमी
पर्यावरणीय समाधान
शोधकर्ता जलवायु मॉडल और आनुवंशिक डेटा को समझने के लिए एआई का उपयोग करते हैं, जिससे जलवायु परिवर्तन जैसी बड़ी समस्याओं से निपटने में मदद मिलती है।
- जलवायु मॉडलिंग और पूर्वानुमान
- ऊर्जा-कुशल एआई डिज़ाइन से 90% तक खपत में कमी
- सतत तकनीकी विकास
ये उदाहरण दिखाते हैं कि एआई केवल विज्ञान कथा नहीं है – यह आज ही वास्तविक मूल्य प्रदान करता है।
एआई के संभावित जोखिम और खतरे
इसके वादे के बावजूद, कई विशेषज्ञ चेतावनी देते हैं कि एआई गलत उपयोग या बिना नियंत्रण के खतरनाक हो सकता है. एक प्रमुख चिंता है पक्षपात और भेदभाव. क्योंकि एआई मौजूदा डेटा से सीखता है, यह मानव पूर्वाग्रहों को अपना सकता है।
कठोर नैतिकता के बिना, एआई वास्तविक दुनिया के पक्षपात और भेदभाव को दोहरा सकता है, विभाजन को बढ़ावा दे सकता है और मौलिक मानव अधिकारों और स्वतंत्रताओं को खतरे में डाल सकता है।
— यूनेस्को
वास्तव में, अध्ययनों ने दिखाया है कि चेहरे की पहचान अक्सर महिलाओं या रंग के लोगों को गलत पहचानती है, और भर्ती एल्गोरिदम कुछ लिंगों को प्राथमिकता दे सकते हैं। ब्रिटानिका भी नोट करता है कि एआई "जातीय अल्पसंख्यकों को चोट पहुंचा सकता है, नस्लवाद को दोहराकर और बढ़ाकर".
प्रमुख एआई जोखिम
गोपनीयता और निगरानी
एआई सिस्टम अक्सर बड़ी मात्रा में व्यक्तिगत डेटा (सोशल मीडिया पोस्ट, स्वास्थ्य रिकॉर्ड आदि) की मांग करते हैं। इससे दुरुपयोग का खतरा बढ़ता है। यदि सरकारें या कंपनियां आपकी सहमति के बिना आपका डेटा विश्लेषित करती हैं, तो यह घुसपैठपूर्ण निगरानी का कारण बन सकता है।
ब्रिटानिका एआई से "खतरनाक गोपनीयता जोखिम" की चेतावनी देता है। उदाहरण के लिए, एआई के एक विवादास्पद उपयोग जिसे सामाजिक क्रेडिट स्कोरिंग कहा जाता है – जहां नागरिकों को एल्गोरिदम द्वारा रेट किया जाता है – को यूरोपीय संघ ने "अस्वीकार्य" अभ्यास के रूप में प्रतिबंधित कर दिया है।
गलत सूचना और डीपफेक्स
एआई यथार्थवादी नकली टेक्स्ट, छवियां या वीडियो बना सकता है। इससे डीपफेक्स – नकली सेलिब्रिटी वीडियो या झूठी समाचार रिपोर्टें – बनाना आसान हो जाता है।
ब्रिटानिका बताता है कि एआई "राजनीतिक, यहां तक कि खतरनाक गलत सूचना" फैला सकता है। विशेषज्ञों ने चेतावनी दी है कि ऐसे नकली चुनावों या सार्वजनिक राय को प्रभावित करने के लिए उपयोग किए जा सकते हैं।
नौकरी का नुकसान और आर्थिक व्यवधान
कार्य स्वचालन के कारण, एआई कार्यस्थल को बदल देगा। अंतर्राष्ट्रीय मुद्रा कोष रिपोर्ट करता है कि लगभग 40% वैश्विक नौकरियां (और विकसित देशों में 60%) एआई स्वचालन के "खतरे" में हैं।
इसमें केवल कारखाने का काम ही नहीं बल्कि लेखांकन या लेखन जैसी मध्यम वर्ग की नौकरियां भी शामिल हैं। जबकि एआई उत्पादकता बढ़ा सकता है (लंबी अवधि में वेतन बढ़ा सकता है), कई कर्मचारियों को नई ट्रेनिंग की आवश्यकता हो सकती है या वे अल्पकालिक बेरोजगारी का सामना कर सकते हैं।
सुरक्षा और दुर्भावनापूर्ण उपयोग
किसी भी तकनीक की तरह, एआई का उपयोग नुकसान पहुंचाने के लिए किया जा सकता है। साइबर अपराधी पहले से ही एआई का उपयोग विश्वसनीय फ़िशिंग ईमेल बनाने या कमजोरियों के लिए सिस्टम स्कैन करने में करते हैं।
सैन्य विशेषज्ञ स्वायत्त हथियारों को लेकर चिंतित हैं: ड्रोन या रोबोट जो बिना मानव अनुमोदन के लक्ष्य चुनते हैं।
दूसरे शब्दों में, एक एआई सिस्टम जिसके पास भौतिक नियंत्रण है (जैसे हथियार), वह विशेष रूप से खतरनाक हो सकता है यदि वह नियंत्रण से बाहर हो जाए या दुर्भावनापूर्ण रूप से प्रोग्राम किया गया हो।
मानव नियंत्रण का नुकसान
कुछ विचारक बताते हैं कि यदि एआई आज से कहीं अधिक शक्तिशाली हो जाता है, तो यह अप्रत्याशित तरीकों से कार्य कर सकता है। वर्तमान एआई सचेत या आत्म-जागरूक नहीं है, लेकिन भविष्य का सामान्य एआई (एजीआई) संभवतः मानव मूल्यों के साथ असंगत लक्ष्य अपना सकता है।
प्रमुख एआई वैज्ञानिकों ने हाल ही में चेतावनी दी है कि "अत्यंत शक्तिशाली सामान्यवादी एआई सिस्टम" निकट भविष्य में प्रकट हो सकते हैं यदि हम तैयारी नहीं करते।
नोबेल पुरस्कार विजेता जेफ्री हिन्टन और अन्य विशेषज्ञों ने भी इस जोखिम का वर्णन किया है कि यदि उन्नत एआई हमारी आवश्यकताओं के अनुरूप नहीं है तो यह मानवता को नुकसान पहुंचा सकता है। हालांकि यह जोखिम अनिश्चित है, इसने सावधानी के लिए उच्च-स्तरीय आह्वान को प्रेरित किया है।
ऊर्जा और पर्यावरणीय प्रभाव
बड़े एआई मॉडल का प्रशिक्षण और संचालन बहुत बिजली खपत करता है। यूनेस्को रिपोर्ट करता है कि जनरेटिव एआई की वार्षिक ऊर्जा खपत अब एक छोटे अफ्रीकी देश के बराबर है – और यह तेजी से बढ़ रही है।
यह जलवायु परिवर्तन को और खराब कर सकता है जब तक कि हम हरित तरीकों का उपयोग न करें।
विशेषज्ञ और अधिकारी क्या कहते हैं
इन मुद्दों को देखते हुए, कई नेता और शोधकर्ता सामने आए हैं। हाल के वर्षों में एक बड़ा एआई विशेषज्ञों का सर्वसम्मति बना है।
उन्होंने जोर दिया कि एआई विकास "सुरक्षा को बाद में सोचते हुए" तेजी से आगे बढ़ रहा है, और वर्तमान में हमारे पास दुष्ट अनुप्रयोगों को रोकने के लिए संस्थान नहीं हैं।
तकनीकी नेताओं के दृष्टिकोण
सैम ऑल्टमैन (ओपनएआई सीईओ)
डेमिस हसाबिस (गूगल डीपमाइंड)
हम एक "अनियंत्रित दौड़" में हैं अधिक शक्तिशाली एआई बनाने के लिए जिसे इसके निर्माता भी "समझ, पूर्वानुमान या विश्वसनीय नियंत्रण" नहीं कर सकते।
— 1,000 से अधिक एआई पेशेवरों द्वारा हस्ताक्षरित खुला पत्र (जिसमें एलोन मस्क, स्टीव वोज़नियाक और कई एआई शोधकर्ता शामिल हैं)
सरकार और अंतरराष्ट्रीय प्रतिक्रिया
यूएस सरकार की प्रतिक्रिया
व्हाइट हाउस ने 2023 में एक कार्यकारी आदेश जारी किया जिसमें कहा गया कि एआई "वादा और खतरे दोनों के लिए असाधारण क्षमता रखता है" और इसके महत्वपूर्ण जोखिमों को कम करने के लिए "जिम्मेदार एआई उपयोग" के लिए समाजव्यापी प्रयास की मांग की।
एनआईएसटी (यूएस राष्ट्रीय मानक संस्थान) ने कंपनियों को विश्वसनीय एआई बनाने के लिए मार्गदर्शन देने के लिए एआई जोखिम प्रबंधन ढांचा जारी किया है।
यूरोपीय संघ एआई अधिनियम
यूरोपीय संघ ने दुनिया का पहला एआई अधिनियम पारित किया (2024 से प्रभावी), जो सरकार की सामाजिक स्कोरिंग जैसी खतरनाक प्रथाओं पर प्रतिबंध लगाता है और स्वास्थ्य, कानून प्रवर्तन आदि में उच्च जोखिम वाले एआई के लिए कड़े परीक्षण आवश्यक करता है।
- अस्वीकार्य एआई प्रथाओं पर प्रतिबंध
- उच्च जोखिम वाले एआई सिस्टम के लिए कड़े आवश्यकताएं
- सामान्य प्रयोजन एआई के लिए पारदर्शिता दायित्व
- असंगति पर भारी जुर्माने
वैश्विक सहयोग
यूनेस्को ने वैश्विक एआई नैतिकता सिफारिशें प्रकाशित कीं जो एआई में निष्पक्षता, पारदर्शिता और मानव अधिकार संरक्षण का आग्रह करती हैं।
ओईसीडी और यूएन जैसी संस्थाएं एआई सिद्धांतों पर काम कर रही हैं (कई देशों ने इन्हें स्वीकार किया है)। कंपनियां और विश्वविद्यालय एआई सुरक्षा संस्थान और गठबंधन बना रहे हैं ताकि दीर्घकालिक जोखिमों पर शोध किया जा सके।
सुरक्षा उपाय और विनियमन
सौभाग्य से, कई समाधान पहले से ही लागू हैं। मुख्य विचार है "डिज़ाइन द्वारा एआई सुरक्षा". कंपनियां एआई विकास में नैतिक नियम शामिल कर रही हैं।
उदाहरण के लिए, एआई लैब मॉडल को रिलीज़ से पहले पक्षपात के लिए परीक्षण करते हैं और स्पष्ट या गलत आउटपुट को रोकने के लिए सामग्री फ़िल्टर जोड़ते हैं। सरकारें और संस्थान इसे क़ानूनी रूप दे रहे हैं।
नियामक ढांचे
अनियंत्रित विकास
- पक्षपात परीक्षण आवश्यकताएं नहीं
- सीमित पारदर्शिता
- असंगत सुरक्षा उपाय
- प्रतिक्रियाशील समस्या समाधान
संरचित निरीक्षण
- अनिवार्य पक्षपात ऑडिट
- पारदर्शिता आवश्यकताएं
- डिज़ाइन द्वारा सुरक्षा सिद्धांत
- सक्रिय जोखिम प्रबंधन
वर्तमान सुरक्षा उपाय
तकनीकी समाधान
एआई लैब मॉडल को रिलीज़ से पहले पक्षपात के लिए परीक्षण करते हैं और स्पष्ट या गलत आउटपुट को रोकने के लिए सामग्री फ़िल्टर जोड़ते हैं। मानक निर्धारण निकाय संगठन को एआई जोखिम का आकलन और कम करने के लिए दिशानिर्देश जारी कर रहे हैं।
कानूनी ढांचे
ईयू का एआई अधिनियम कुछ खतरनाक उपयोगों पर पूरी तरह प्रतिबंध लगाता है और अन्य उपयोगों को "उच्च जोखिम" के रूप में वर्गीकृत करता है (ऑडिट के अधीन)। यूनेस्को का एआई नैतिकता ढांचा निष्पक्षता ऑडिटिंग, साइबर सुरक्षा संरक्षण, और शिकायत प्रक्रियाओं की पहुंच की मांग करता है।
उद्योग सहयोग
कंपनियां और विश्वविद्यालय एआई सुरक्षा संस्थान और गठबंधन बना रहे हैं ताकि दीर्घकालिक जोखिमों पर शोध किया जा सके। डीपफेक्स के बारे में सुरक्षा और शिक्षा अभियानों पर सार्वजनिक-निजी सहयोग सामान्य होता जा रहा है।
सार्वजनिक भागीदारी
एआई जोखिम और लाभ के बारे में शिक्षा अभियान, साथ ही मतपत्र जो नागरिकों से पूछते हैं कि मशीनों को कितनी स्वायत्तता देनी चाहिए, एआई शासन में लोकतांत्रिक भागीदारी सुनिश्चित करते हैं।
प्राधिकरण नफरत भाषण, कॉपीराइट और गोपनीयता पर कानूनों को अपडेट करने के लिए दौड़ रहे हैं ताकि एआई-निर्मित सामग्री को शामिल किया जा सके। जैसा कि एक न्यूजीलैंड विशेषज्ञ ने कहा, कई वर्तमान कानून "जनरेटिव एआई को ध्यान में रखकर डिज़ाइन नहीं किए गए थे," इसलिए विधायिका पकड़ बना रही है।
निष्कर्ष: एआई सुरक्षा पर संतुलित दृष्टिकोण
तो, क्या एआई खतरनाक है? उत्तर जटिल है। एआई स्वाभाविक रूप से बुरा नहीं है – यह मनुष्यों द्वारा बनाया गया एक उपकरण है।
आज के इसके कई व्यावहारिक रूपों में, इसने चिकित्सा, शिक्षा, उद्योग और अन्य क्षेत्रों में बड़े लाभ दिए हैं (जैसे यूनेस्को और ईयू द्वारा उजागर)।
साथ ही, लगभग सभी सहमत हैं कि एआई खतरनाक हो सकता है यदि इसकी शक्ति का गलत उपयोग किया जाए या इसे बिना मार्गदर्शन छोड़ा जाए।
युवा शिक्षार्थियों के लिए
सुरक्षा उपाय
सामान्य चिंताएं गोपनीयता उल्लंघन, पक्षपात, गलत सूचना, नौकरी में उथल-पुथल, और संभावित सुपर-इंटेलिजेंस के जोखिम शामिल हैं।
सही "गार्डरेल" के साथ – नैतिक एआई विकास, मजबूत विनियमन और सार्वजनिक जागरूकता – हम एआई को सुरक्षा की ओर ले जा सकते हैं और सुनिश्चित कर सकते हैं कि यह मानवता के लिए लाभकारी हो बिना खतरनाक बने।
