এআই কি বিপজ্জনক?
এআই যেকোনো শক্তিশালী প্রযুক্তির মতো: এটি দায়িত্বশীলভাবে ব্যবহৃত হলে মহান উপকার করতে পারে, এবং ভুল ব্যবহারে ক্ষতি করতে পারে।
কৃত্রিম বুদ্ধিমত্তা (এআই) বলতে বোঝায় এমন কম্পিউটার সিস্টেম যা মানুষের বুদ্ধিমত্তা অনুকরণ করে – উদাহরণস্বরূপ, এমন প্রোগ্রাম যা ছবি চিনতে পারে, ভাষা বুঝতে পারে, বা সিদ্ধান্ত নিতে পারে। দৈনন্দিন জীবনে, এআই স্মার্টফোনের ভয়েস অ্যাসিস্ট্যান্ট, সোশ্যাল মিডিয়ার রিকমেন্ডেশন সিস্টেম, এমনকি উন্নত চ্যাটবট যা লেখা তৈরি করে, এগুলোর শক্তি প্রদান করে।
এআই অনেক ক্ষেত্র উন্নত করার সম্ভাবনা রাখে, তবে এটি অনেক উদ্বেগও সৃষ্টি করে।
তাহলে, এআই কি বিপজ্জনক? এই নিবন্ধটি উভয় দিক অন্বেষণ করবে: এআই যে বাস্তব সুবিধা নিয়ে আসে এবং বিশেষজ্ঞরা যে বিপদগুলো তুলে ধরছেন।
এআই এর বাস্তব বিশ্বের সুবিধাসমূহ
এআই ইতিমধ্যেই অনেক সহায়ক অ্যাপ্লিকেশনে সংযুক্ত যা সমাজে এর ইতিবাচক প্রভাব প্রদর্শন করে।
এআই বিশ্বব্যাপী অনেক সুযোগ সৃষ্টি করেছে – দ্রুততর চিকিৎসা নির্ণয় থেকে সোশ্যাল মিডিয়ার মাধ্যমে উন্নত সংযোগ এবং ক্লান্তিকর কাজ স্বয়ংক্রিয়করণ পর্যন্ত।
— ইউনেস্কো
ইউরোপীয় ইউনিয়নও একইভাবে উল্লেখ করে যে "বিশ্বাসযোগ্য এআই অনেক সুবিধা আনতে পারে" যেমন উন্নত স্বাস্থ্যসেবা, নিরাপদ পরিবহন, এবং অধিক কার্যকর শিল্প ও শক্তি ব্যবহার। চিকিৎসাবিজ্ঞানে, বিশ্ব স্বাস্থ্য সংস্থা জানায় যে এআই নির্ণয়, ওষুধ উন্নয়ন এবং মহামারী প্রতিক্রিয়ায় ব্যবহৃত হচ্ছে, এবং দেশগুলিকে এই উদ্ভাবনগুলি সবার জন্য প্রচার করার আহ্বান জানায়।
অর্থনীতিবিদরাও এআই এর দ্রুত বিস্তারকে অতীত প্রযুক্তি বিপ্লবের সাথে তুলনা করেন।
এআই এর প্রধান সুবিধাসমূহ
উন্নত স্বাস্থ্যসেবা
এআই সিস্টেমগুলি এক্স-রে, এমআরআই এবং রোগীর তথ্য মানুষের চেয়ে দ্রুত বিশ্লেষণ করতে পারে, যা রোগের প্রাথমিক সনাক্তকরণ এবং ব্যক্তিগতকৃত চিকিৎসায় সাহায্য করে।
- এআই-সহায়ত ইমেজিং এমন টিউমার খুঁজে পেতে পারে যা ডাক্তাররা মিস করতে পারেন
- দ্রুত নির্ণয় এবং চিকিৎসার সুপারিশ
- রোগীর তথ্যের ভিত্তিতে ব্যক্তিগতকৃত ওষুধ
বেশি কার্যকারিতা
কারখানা, অফিস এবং সেবায় স্বয়ংক্রিয় প্রক্রিয়া উল্লেখযোগ্যভাবে উৎপাদনশীলতা বাড়ায়।
- অধিক কার্যকর উৎপাদন প্রক্রিয়া
- স্মার্ট শক্তি গ্রিড এবং সম্পদ ব্যবস্থাপনা
- মানুষ সৃজনশীল বা জটিল কাজে মনোযোগ দিতে পারে
নিরাপদ পরিবহন
স্বয়ংচালিত গাড়ির প্রযুক্তি এবং ট্রাফিক ব্যবস্থাপনা এআই দুর্ঘটনা এবং যানজট কমাতে লক্ষ্য করে।
- উন্নত দুর্যোগ সতর্কতা ব্যবস্থা
- সর্বোত্তম লজিস্টিকস এবং শিপিং
- পরিবহনে মানুষের ভুল কমানো
পরিবেশগত সমাধান
গবেষকরা জলবায়ু মডেল এবং জেনেটিক তথ্য বিশ্লেষণে এআই ব্যবহার করেন, যা জলবায়ু পরিবর্তনের মতো বড় সমস্যাগুলো মোকাবেলায় সাহায্য করে।
- জলবায়ু মডেলিং এবং পূর্বাভাস
- শক্তি-দক্ষ এআই ডিজাইন যা ৯০% খরচ কমায়
- টেকসই প্রযুক্তি উন্নয়ন
এই উদাহরণগুলো দেখায় যে এআই শুধুমাত্র বিজ্ঞান কল্পকাহিনী নয় – এটি ইতিমধ্যেই বাস্তব মূল্য প্রদান করছে।
এআই এর সম্ভাব্য ঝুঁকি এবং বিপদ
প্রতিশ্রুতির পরেও, অনেক বিশেষজ্ঞ সতর্ক করে যে এআই ভুল ব্যবহারে বা নিয়ন্ত্রণহীন থাকলে বিপজ্জনক হতে পারে। একটি বড় উদ্বেগ হলো পক্ষপাত এবং বৈষম্য। কারণ এআই বিদ্যমান তথ্য থেকে শেখে, তাই এটি মানুষের পক্ষপাতিত্বও গ্রহণ করতে পারে।
কঠোর নৈতিকতা ছাড়া, এআই বাস্তব বিশ্বের পক্ষপাত এবং বৈষম্য পুনরুত্পাদন করতে পারে, বিভাজন বাড়াতে পারে এবং মৌলিক মানবাধিকার ও স্বাধীনতাকে হুমকির মুখে ফেলতে পারে।
— ইউনেস্কো
অবশ্যই, গবেষণায় দেখা গেছে মুখ চিনতে সক্ষম প্রযুক্তি প্রায়ই নারীদের বা রঙিন মানুষের ভুল শনাক্ত করে, এবং নিয়োগ অ্যালগরিদম নির্দিষ্ট লিঙ্গকে প্রাধান্য দিতে পারে। ব্রিটানিকাও উল্লেখ করে যে এআই "বর্ণবাদ পুনরাবৃত্তি ও বাড়িয়ে racial সংখ্যালঘুদের ক্ষতি করতে পারে"।
প্রধান এআই ঝুঁকিসমূহ
গোপনীয়তা এবং নজরদারি
এআই সিস্টেম প্রায়ই বিশাল পরিমাণ ব্যক্তিগত তথ্য (সোশ্যাল মিডিয়া পোস্ট, স্বাস্থ্য রেকর্ড ইত্যাদি) প্রয়োজন। এটি অপব্যবহারের ঝুঁকি বাড়ায়। যদি সরকার বা কোম্পানি আপনার সম্মতি ছাড়া এআই দিয়ে আপনার তথ্য বিশ্লেষণ করে, তবে তা অনধিকার প্রবেশের নজরদারিতে পরিণত হতে পারে।
ব্রিটানিকা সতর্ক করে যে এআই থেকে "বিপজ্জনক গোপনীয়তা ঝুঁকি" রয়েছে। উদাহরণস্বরূপ, একটি বিতর্কিত এআই ব্যবহার হলো সোশ্যাল ক্রেডিট স্কোরিং – যেখানে নাগরিকদের অ্যালগরিদম দ্বারা রেট করা হয় – যা ইউরোপীয় ইউনিয়ন "অগ্রহণযোগ্য" বলে নিষিদ্ধ করেছে।
মিথ্যা তথ্য এবং ডিপফেক
এআই বাস্তবসম্মত মিথ্যা লেখা, ছবি বা ভিডিও তৈরি করতে পারে। এটি ডিপফেক তৈরি করা সহজ করে তোলে – যেমন মিথ্যা সেলিব্রিটি ভিডিও বা ভুয়া সংবাদ প্রতিবেদন।
ব্রিটানিকা উল্লেখ করে যে এআই "রাজনৈতিককৃত, এমনকি বিপজ্জনক মিথ্যা তথ্য ছড়াতে পারে"। বিশেষজ্ঞরা সতর্ক করেছেন যে এই ধরনের মিথ্যা তথ্য নির্বাচন বা জনমত প্রভাবিত করতে ব্যবহার হতে পারে।
চাকরি হারানো এবং অর্থনৈতিক বিঘ্ন
কাজ স্বয়ংক্রিয় করে, এআই কর্মক্ষেত্র পরিবর্তন করবে। আন্তর্জাতিক মুদ্রা তহবিল রিপোর্ট করে প্রায় বিশ্বব্যাপী ৪০% চাকরি (এবং উন্নত দেশগুলোতে ৬০%) এআই স্বয়ংক্রিয়তার ঝুঁকিতে রয়েছে।
এতে শুধু কারখানার কাজ নয়, মধ্যবিত্তের হিসাবরক্ষণ বা লেখালেখির মতো চাকরিও অন্তর্ভুক্ত। যদিও এআই উৎপাদনশীলতা বাড়াতে পারে (দীর্ঘমেয়াদে বেতন বাড়াতে পারে), অনেক কর্মীকে নতুন প্রশিক্ষণ নিতে হতে পারে বা স্বল্পমেয়াদে বেকারত্বের সম্মুখীন হতে হতে পারে।
নিরাপত্তা এবং দূষিত ব্যবহার
যেকোনো প্রযুক্তির মতো, এআই ক্ষতির জন্যও ব্যবহার হতে পারে। সাইবার অপরাধীরা ইতিমধ্যেই এআই ব্যবহার করে বিশ্বাসযোগ্য ফিশিং ইমেইল তৈরি বা সিস্টেমের দুর্বলতা খুঁজে বের করে।
সামরিক বিশেষজ্ঞরা স্বায়ত্তশাসিত অস্ত্র নিয়ে উদ্বিগ্ন: এমন ড্রোন বা রোবট যা মানুষের অনুমতি ছাড়া লক্ষ্য নির্বাচন করে।
অর্থাৎ, একটি এআই সিস্টেম যার শারীরিক নিয়ন্ত্রণ আছে (যেমন একটি অস্ত্র) তা বিশেষভাবে বিপজ্জনক হতে পারে যদি তা নিয়ন্ত্রণ হারায় বা দূষিতভাবে প্রোগ্রাম করা হয়।
মানুষের নিয়ন্ত্রণ হারানো
কিছু চিন্তাবিদ বলেন যে যদি এআই আজকের চেয়ে অনেক বেশি শক্তিশালী হয়, তবে এটি অপ্রত্যাশিতভাবে কাজ করতে পারে। বর্তমান এআই সচেতন বা আত্মসচেতন নয়, তবে ভবিষ্যতের সাধারণ এআই (এজিআই) সম্ভবত মানুষের মূল্যবোধের সাথে সামঞ্জস্যহীন লক্ষ্য অনুসরণ করতে পারে।
শীর্ষস্থানীয় এআই বিজ্ঞানীরা সম্প্রতি সতর্ক করেছেন যে "অত্যন্ত শক্তিশালী সাধারণ এআই সিস্টেম" নিকট ভবিষ্যতে আসতে পারে যদি আমরা প্রস্তুতি না নেই।
নোবেল বিজয়ী জেফ্রি হিন্টন এবং অন্যান্য বিশেষজ্ঞরা এমনকি বলেছেন যে উন্নত এআই আমাদের প্রয়োজনের সাথে সামঞ্জস্য না হলে মানবজাতির জন্য ক্ষতিকর হতে পারে। যদিও এই ঝুঁকি অনিশ্চিত, এটি উচ্চ-প্রোফাইল সতর্কতার আহ্বানকে প্রেরণা দিয়েছে।
শক্তি এবং পরিবেশগত প্রভাব
বড় এআই মডেল প্রশিক্ষণ এবং চালানো অনেক বিদ্যুৎ খরচ করে। ইউনেস্কো রিপোর্ট করে যে জেনারেটিভ এআই এর বার্ষিক শক্তি ব্যবহার এখন একটি ছোট আফ্রিকান দেশের সমান – এবং এটি দ্রুত বাড়ছে।
এটি জলবায়ু পরিবর্তনকে আরও খারাপ করতে পারে যদি আমরা সবুজ পদ্ধতি ব্যবহার না করি।
বিশেষজ্ঞ এবং কর্মকর্তাদের মতামত
এই বিষয়গুলো বিবেচনা করে, অনেক নেতা এবং গবেষক মুখ খুলেছেন। সাম্প্রতিক বছরগুলোতে একটি বড় এআই বিশেষজ্ঞদের ঐক্যমত্য গড়ে উঠেছে।
তারা জোর দিয়েছেন যে এআই উন্নয়ন "নিরাপত্তাকে পরোক্ষভাবে বিবেচনা করে দ্রুত এগিয়ে চলছে," এবং বর্তমানে আমাদের কাছে দুষ্ট অ্যাপ্লিকেশন প্রতিরোধের জন্য প্রতিষ্ঠান নেই।
প্রযুক্তি নেতাদের দৃষ্টিভঙ্গি
স্যাম অল্টম্যান (ওপেনএআই সিইও)
ডেমিস হাসাবিস (গুগল ডিপমাইন্ড)
আমরা একটি "নিয়ন্ত্রণহীন দৌড়ে" আছি আরও শক্তিশালী এআই তৈরি করতে যা এর নির্মাতারা "বোঝা, পূর্বাভাস বা নির্ভরযোগ্য নিয়ন্ত্রণ করতে পারে না"।
— ১,০০০ এর বেশি এআই পেশাদার দ্বারা স্বাক্ষরিত খোলা চিঠি (এলন মাস্ক, স্টিভ ওজনিয়াক এবং অনেক এআই গবেষকসহ)
সরকার এবং আন্তর্জাতিক প্রতিক্রিয়া
যুক্তরাষ্ট্র সরকারের প্রতিক্রিয়া
হোয়াইট হাউস ২০২৩ সালে একটি নির্বাহী আদেশ জারি করেছে যেখানে বলা হয়েছে এআই "উভয় প্রতিশ্রুতি এবং বিপদের জন্য অসাধারণ সম্ভাবনা রাখে" এবং এর উল্লেখযোগ্য ঝুঁকি কমাতে "দায়িত্বশীল এআই ব্যবহার" এর জন্য সমাজব্যাপী প্রচারণার আহ্বান জানানো হয়েছে।
ন্যাশনাল ইনস্টিটিউট অফ স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি (NIST) কোম্পানিগুলোর জন্য একটি এআই ঝুঁকি ব্যবস্থাপনা কাঠামো প্রকাশ করেছে যা বিশ্বাসযোগ্য এআই তৈরি করার নির্দেশনা দেয়।
ইউরোপীয় ইউনিয়ন এআই আইন
ইউরোপীয় ইউনিয়ন বিশ্বের প্রথম এআই আইন (২০২৪ থেকে কার্যকর) পাস করেছে, যা সরকারী সামাজিক স্কোরিংয়ের মতো বিপজ্জনক অনুশীলন নিষিদ্ধ করে এবং স্বাস্থ্য, আইন প্রয়োগ ইত্যাদিতে উচ্চ ঝুঁকিপূর্ণ এআই এর জন্য কঠোর পরীক্ষা বাধ্যতামূলক করে।
- অগ্রহণযোগ্য এআই অনুশীলন নিষিদ্ধ
- উচ্চ ঝুঁকিপূর্ণ এআই সিস্টেমের জন্য কঠোর শর্তাবলী
- সাধারণ উদ্দেশ্যের এআই এর জন্য স্বচ্ছতার বাধ্যবাধকতা
- অমান্যকারীদের জন্য কঠোর জরিমানা
গ্লোবাল সহযোগিতা
ইউনেস্কো বিশ্বব্যাপী এআই নৈতিকতার সুপারিশ প্রকাশ করেছে যা ন্যায়পরায়ণতা, স্বচ্ছতা এবং মানবাধিকার সুরক্ষার আহ্বান জানায়।
ওইসিডি এবং জাতিসংঘের মতো গোষ্ঠী এআই নীতিমালা নিয়ে কাজ করছে (অনেক দেশ এতে স্বাক্ষর করেছে)। কোম্পানি এবং বিশ্ববিদ্যালয় দীর্ঘমেয়াদী ঝুঁকি গবেষণার জন্য এআই নিরাপত্তা প্রতিষ্ঠান এবং জোট গঠন করছে।
সুরক্ষা ব্যবস্থা এবং নিয়ন্ত্রণ
সৌভাগ্যবশত, অনেক সমাধান ইতিমধ্যেই কার্যকর। মূল ধারণা হলো "ডিজাইনে এআই নিরাপত্তা"। কোম্পানিগুলো ক্রমশ এআই উন্নয়নে নৈতিক নিয়ম অন্তর্ভুক্ত করছে।
উদাহরণস্বরূপ, এআই ল্যাবগুলো মডেল মুক্তির আগে পক্ষপাত পরীক্ষা করে এবং স্পষ্ট বা মিথ্যা আউটপুট প্রতিরোধে বিষয়বস্তু ফিল্টার যোগ করে। সরকার এবং প্রতিষ্ঠানগুলো এটিকে আইনগত রূপ দিচ্ছে।
নিয়ন্ত্রক কাঠামো
অপরিচালিত উন্নয়ন
- পক্ষপাত পরীক্ষার কোনো বাধ্যবাধকতা নেই
- স্বচ্ছতার অভাব
- অসঙ্গত নিরাপত্তা ব্যবস্থা
- প্রতিক্রিয়াশীল সমস্যা সমাধান
গঠিত তদারকি
- আবশ্যকীয় পক্ষপাত নিরীক্ষা
- স্বচ্ছতার শর্তাবলী
- নিরাপত্তা ডিজাইনের নীতি
- প্রোঅ্যাকটিভ ঝুঁকি ব্যবস্থাপনা
বর্তমান সুরক্ষা ব্যবস্থা
প্রযুক্তিগত সমাধান
এআই ল্যাবগুলো মডেল মুক্তির আগে পক্ষপাত পরীক্ষা করে এবং স্পষ্ট বা মিথ্যা আউটপুট প্রতিরোধে বিষয়বস্তু ফিল্টার যোগ করে। মান নির্ধারণকারী সংস্থাগুলো এআই ঝুঁকি মূল্যায়ন ও হ্রাসের জন্য নির্দেশিকা প্রকাশ করছে।
আইনগত কাঠামো
ইউরোপীয় ইউনিয়নের এআই আইন কিছু বিপজ্জনক ব্যবহার সম্পূর্ণ নিষিদ্ধ করে এবং অন্যান্য ব্যবহারকে "উচ্চ ঝুঁকিপূর্ণ" হিসেবে শ্রেণীবদ্ধ করে (নিরীক্ষার আওতায়)। ইউনেস্কোর এআই নৈতিকতা কাঠামো ন্যায়পরায়ণতা নিরীক্ষা, সাইবারসিকিউরিটি সুরক্ষা এবং সহজলভ্য অভিযোগ প্রক্রিয়া আহ্বান জানায়।
শিল্প সহযোগিতা
কোম্পানি এবং বিশ্ববিদ্যালয় দীর্ঘমেয়াদী ঝুঁকি গবেষণার জন্য এআই নিরাপত্তা প্রতিষ্ঠান এবং জোট গঠন করছে। নিরাপত্তা এবং ডিপফেক সম্পর্কে শিক্ষা প্রচারণায় সরকার-বেসরকারি সহযোগিতা সাধারণ হয়ে উঠছে।
জনসাধারণের অংশগ্রহণ
এআই ঝুঁকি ও সুবিধা সম্পর্কে শিক্ষা প্রচারণা, এবং নাগরিকদের মেশিনকে কতটা স্বায়ত্তশাসন দেওয়া উচিত তা জানতে ব্যালট নিশ্চিত করে গণতান্ত্রিক অংশগ্রহণ।
প্রতিষ্ঠানগুলো ঘৃণা ভাষা, কপিরাইট এবং গোপনীয়তা সম্পর্কিত আইন আপডেট করতে ব্যস্ত যাতে এআই-তৈরি বিষয়বস্তু অন্তর্ভুক্ত হয়। একজন নিউজিল্যান্ড বিশেষজ্ঞ উল্লেখ করেছেন, অনেক বর্তমান আইন "জেনারেটিভ এআই বিবেচনা করে তৈরি হয়নি," তাই আইনপ্রণেতারা আপডেট করছে।
উপসংহার: এআই নিরাপত্তা সম্পর্কে সুষম দৃষ্টিভঙ্গি
তাহলে, এআই কি বিপজ্জনক? উত্তর জটিল। এআই স্বভাবতই খারাপ নয় – এটি মানুষের তৈরি একটি সরঞ্জাম।
আজকের অনেক ব্যবহারিক রূপে, এটি চিকিৎসা, শিক্ষা, শিল্প এবং আরও অনেক ক্ষেত্রে বিশাল সুবিধা এনেছে (যেমন ইউনেস্কো এবং ইউরোপীয় ইউনিয়ন উল্লেখ করেছে)।
একই সময়ে, প্রায় সবাই একমত যে এআই বিপজ্জনক হতে পারে যদি এর শক্তি ভুল ব্যবহৃত হয় বা নিয়ন্ত্রণহীন থাকে।
যুব শিক্ষার্থীদের জন্য
নিরাপত্তা ব্যবস্থা
সাধারণ উদ্বেগের মধ্যে রয়েছে গোপনীয়তা লঙ্ঘন, পক্ষপাত, মিথ্যা তথ্য, চাকরি বিঘ্ন এবং সম্ভাব্য সুপার-ইন্টেলিজেন্সের ঝুঁকি।
সঠিক "গার্ডরেল" থাকলে – নৈতিক এআই উন্নয়ন, শক্তিশালী নিয়ন্ত্রণ এবং জনসচেতনতা – আমরা এআই-কে নিরাপদ পথে পরিচালিত করতে পারি এবং নিশ্চিত করতে পারি যে এটি বিপজ্জনক না হয়ে মানবজাতির উপকারে আসে।
