کیا مصنوعی ذہانت خطرناک ہے؟

AI سسٹمز اکثر بہت زیادہ ذاتی ڈیٹا (سوشل میڈیا پوسٹس، صحت کے ریکارڈز وغیرہ) کی ضرورت رکھتے ہیں۔ اس سے غلط استعمال کا خطرہ بڑھ جاتا ہے۔ اگر حکومتیں یا کمپنیاں آپ کے ڈیٹا کو بغیر اجازت کے AI کے ذریعے تجزیہ کریں تو یہ مداخلت کرنے والی نگرانی کا باعث بن سکتا ہے۔

بریٹانیکا AI سے "خطرناک پرائیویسی کے خطرات" کی وارننگ دیتی ہے۔ مثال کے طور پر، AI کا ایک متنازعہ استعمال سوشل کریڈٹ اسکورنگ ہے – جہاں شہریوں کو الگورتھمز کے ذریعے درجہ بندی کیا جاتا ہے – جسے یورپی یونین نے "ناقابل قبول" عمل قرار دے کر ممنوع قرار دیا ہے۔

AI حقیقت پسندانہ جعلی متن، تصاویر یا ویڈیو بنا سکتا ہے۔ اس سے ڈیپ فیکس بنانا آسان ہو جاتا ہے – جعلی مشہور شخصیات کی ویڈیوز یا جھوٹے خبری رپورٹس۔

بریٹانیکا بتاتی ہے کہ AI "سیاسی، حتیٰ کہ خطرناک غلط معلومات پھیلا سکتا ہے"۔ ماہرین نے خبردار کیا ہے کہ ایسے جعلی مواد کو انتخابات یا عوامی رائے کو متاثر کرنے کے لیے استعمال کیا جا سکتا ہے۔

کاموں کو خودکار بنا کر، AI کام کی جگہ کو تبدیل کر دے گا۔ بین الاقوامی مالیاتی فنڈ رپورٹ کرتا ہے کہ تقریباً دنیا بھر میں 40% ملازمتیں (اور ترقی یافتہ ممالک میں 60%) AI خودکاری کے خطرے میں ہیں۔

یہ صرف فیکٹری کے کام تک محدود نہیں بلکہ درمیانے طبقے کی ملازمتیں جیسے اکاؤنٹنگ یا تحریر بھی شامل ہیں۔ اگرچہ AI پیداواریت بڑھا سکتا ہے (جو طویل مدت میں اجرتوں میں اضافہ کرے گا)، بہت سے کارکنوں کو نئی تربیت کی ضرورت پڑ سکتی ہے یا قلیل مدت میں بے روزگاری کا سامنا ہو سکتا ہے۔

کسی بھی ٹیکنالوجی کی طرح، AI کا استعمال نقصان پہنچانے کے لیے بھی کیا جا سکتا ہے۔ سائبر مجرم پہلے ہی AI کا استعمال کر کے قائل کرنے والے فشنگ ای میلز بناتے ہیں یا سسٹمز کی کمزوریوں کو تلاش کرتے ہیں۔

فوجی ماہرین خودکار ہتھیاروں کے بارے میں فکر مند ہیں: ایسے ڈرون یا روبوٹ جو بغیر انسانی منظوری کے ہدف منتخب کرتے ہیں۔

دوسرے الفاظ میں، ایک AI سسٹم جس کا جسمانی کنٹرول ہو (جیسے ہتھیار) خاص طور پر خطرناک ہو سکتا ہے اگر وہ بے قابو ہو جائے یا بدنیتی سے پروگرام کیا جائے۔

کچھ مفکرین کا کہنا ہے کہ اگر AI آج سے کہیں زیادہ طاقتور ہو جائے، تو یہ غیر متوقع طریقوں سے کام کر سکتا ہے۔ موجودہ AI شعور یا خود آگاہ نہیں ہے، لیکن مستقبل کا جنرل AI (AGI) ممکنہ طور پر ایسے مقاصد حاصل کر سکتا ہے جو انسانی اقدار سے مطابقت نہیں رکھتے۔

نمایاں AI سائنسدانوں نے حال ہی میں خبردار کیا ہے کہ "انتہائی طاقتور جنرل AI سسٹمز" قریبی مستقبل میں ظاہر ہو سکتے ہیں اگر ہم تیار نہ ہوں۔

نوبل انعام یافتہ جیوفری ہنٹن اور دیگر ماہرین نے بھی اس خطرے کی نشاندہی کی ہے کہ اگر اعلیٰ درجے کا AI ہماری ضروریات کے مطابق نہ ہو تو یہ انسانیت کو نقصان پہنچا سکتا ہے۔ اگرچہ یہ خطرہ غیر یقینی ہے، اس نے احتیاط کے لیے اعلیٰ سطح کی اپیلوں کو جنم دیا ہے۔

بڑے AI ماڈلز کی تربیت اور چلانا بہت زیادہ بجلی استعمال کرتا ہے۔ یونسکو رپورٹ کرتی ہے کہ جنریٹو AI کی سالانہ توانائی کی کھپت اب ایک چھوٹے افریقی ملک کے برابر ہے – اور یہ تیزی سے بڑھ رہی ہے۔

یہ موسمیاتی تبدیلی کو بدتر کر سکتا ہے جب تک کہ ہم ماحول دوست طریقے استعمال نہ کریں۔