Adakah AI Berbahaya?
AI adalah seperti mana-mana teknologi yang berkuasa: ia boleh membawa kebaikan besar apabila digunakan dengan bertanggungjawab, dan menyebabkan kemudaratan jika disalahgunakan.
Kecerdasan Buatan (AI) merujuk kepada sistem komputer yang meniru kecerdasan manusia – contohnya, program yang boleh mengenal pasti imej, memahami bahasa, atau membuat keputusan. Dalam kehidupan seharian, AI menggerakkan alat seperti pembantu suara pada telefon pintar, sistem cadangan di media sosial, dan juga chatbot canggih yang menulis teks.
AI berpotensi untuk memperbaiki banyak bidang dengan ketara, tetapi ia juga menimbulkan banyak kebimbangan.
Jadi, adakah AI berbahaya? Artikel ini akan meneroka kedua-dua sisi: manfaat sebenar yang dibawa AI dan bahaya yang diketengahkan oleh pakar.
Manfaat AI dalam Dunia Sebenar
AI sudah pun disepadukan ke dalam banyak aplikasi berguna yang menunjukkan impak positifnya terhadap masyarakat.
AI telah mencipta banyak peluang di seluruh dunia – daripada diagnosis perubatan yang lebih pantas kepada sambungan yang lebih baik melalui media sosial dan automasi tugas kerja yang membosankan.
— UNESCO
Kesatuan Eropah juga menekankan bahawa "AI yang boleh dipercayai boleh membawa banyak manfaat" seperti penjagaan kesihatan yang lebih baik, pengangkutan yang lebih selamat, dan industri serta penggunaan tenaga yang lebih cekap. Dalam bidang perubatan, Pertubuhan Kesihatan Sedunia melaporkan bahawa AI digunakan untuk diagnosis, pembangunan ubat dan tindak balas wabak, menggesa negara-negara untuk mempromosikan inovasi ini untuk semua.
Ahli ekonomi juga membandingkan penyebaran pesat AI dengan revolusi teknologi terdahulu.
Manfaat Utama AI
Penjagaan Kesihatan yang Dipertingkatkan
Sistem AI boleh menganalisis sinar-X, MRI dan data pesakit lebih pantas daripada manusia, membantu pengesanan awal penyakit dan rawatan yang diperibadikan.
- Pengimejan dibantu AI boleh mengesan tumor yang mungkin terlepas pandang doktor
- Diagnosis dan cadangan rawatan yang lebih pantas
- Perubatan diperibadikan berdasarkan data pesakit
Kecekapan yang Lebih Tinggi
Proses automatik di kilang, pejabat dan perkhidmatan meningkatkan produktiviti dengan ketara.
- Proses pembuatan yang lebih cekap
- Grid tenaga dan pengurusan sumber yang lebih pintar
- Manusia boleh fokus pada kerja kreatif atau kompleks
Pengangkutan yang Lebih Selamat
Teknologi kereta pandu sendiri dan AI pengurusan trafik bertujuan mengurangkan kemalangan dan kesesakan.
- Sistem amaran bencana yang dipertingkatkan
- Logistik dan penghantaran yang dioptimumkan
- Pengurangan kesilapan manusia dalam pengangkutan
Penyelesaian Alam Sekitar
Penyelidik menggunakan AI untuk mengira model iklim dan data genetik, membantu menangani isu besar seperti perubahan iklim.
- Pemodelan dan ramalan iklim
- Reka bentuk AI cekap tenaga mengurangkan penggunaan sebanyak 90%
- Pembangunan teknologi lestari
Contoh-contoh ini menunjukkan bahawa AI bukan sekadar fiksyen sains – ia sudah memberikan nilai sebenar hari ini.
Risiko dan Bahaya Potensi AI
Walaupun menjanjikan, ramai pakar memberi amaran bahawa AI boleh menjadi berbahaya jika disalahgunakan atau dibiarkan tanpa kawalan. Satu kebimbangan utama ialah bias dan diskriminasi. Kerana AI belajar daripada data sedia ada, ia boleh mewarisi prejudis manusia.
Tanpa etika yang ketat, AI berisiko mengulangi bias dan diskriminasi dunia sebenar, memburukkan perpecahan dan mengancam hak asasi manusia dan kebebasan asas.
— UNESCO
Memang, kajian menunjukkan pengecaman wajah sering salah mengenal pasti wanita atau orang berwarna, dan algoritma pengambilan pekerja boleh memihak kepada jantina tertentu. Britannica juga menyatakan AI boleh "menyakiti minoriti kaum dengan mengulangi dan memburukkan lagi perkauman".
Risiko Utama AI
Privasi dan Pengawasan
Sistem AI sering memerlukan sejumlah besar data peribadi (pos media sosial, rekod kesihatan, dan lain-lain). Ini meningkatkan risiko penyalahgunaan. Jika kerajaan atau syarikat menggunakan AI untuk menganalisis data anda tanpa kebenaran, ia boleh membawa kepada pengawasan yang invasif.
Britannica memberi amaran tentang "risiko privasi yang berbahaya" daripada AI. Contohnya, penggunaan kontroversi AI yang dipanggil penilaian kredit sosial – di mana warganegara dinilai oleh algoritma – telah diharamkan oleh EU sebagai amalan yang "tidak boleh diterima".
Maklumat Salah dan Deepfake
AI boleh menghasilkan teks, imej atau video palsu yang realistik. Ini memudahkan penciptaan deepfake – video selebriti palsu atau laporan berita palsu.
Britannica menunjukkan AI boleh menyebarkan "maklumat salah yang dipolitikkan, malah berbahaya". Pakar memberi amaran bahawa palsu seperti ini boleh digunakan untuk memanipulasi pilihan raya atau pendapat awam.
Kehilangan Pekerjaan dan Gangguan Ekonomi
Dengan mengautomasikan tugas, AI akan mengubah tempat kerja. Tabung Kewangan Antarabangsa melaporkan kira-kira 40% pekerjaan di seluruh dunia (dan 60% di negara maju) "terdedah" kepada automasi AI.
Ini termasuk bukan sahaja kerja kilang tetapi juga pekerjaan kelas pertengahan seperti perakaunan atau penulisan. Walaupun AI boleh meningkatkan produktiviti (meningkatkan gaji dalam jangka panjang), ramai pekerja mungkin memerlukan latihan baru atau boleh mengalami pengangguran dalam jangka pendek.
Keselamatan dan Penggunaan Jahat
Seperti mana-mana teknologi, AI boleh digunakan untuk kemudaratan. Penjenayah siber sudah menggunakan AI untuk mencipta emel pancingan data yang meyakinkan atau mengimbas sistem untuk kelemahan.
Pakar ketenteraan bimbang tentang senjata autonomi: dron atau robot yang memilih sasaran tanpa kelulusan manusia.
Dengan kata lain, sistem AI yang mempunyai kawalan fizikal (seperti senjata) boleh menjadi sangat berbahaya jika ia rosak atau diprogram dengan niat jahat.
Kehilangan Kawalan Manusia
Sesetengah pemikir menunjukkan bahawa jika AI menjadi jauh lebih berkuasa daripada hari ini, ia mungkin bertindak dengan cara yang tidak dapat diramalkan. Walaupun AI semasa tidak sedar atau mempunyai kesedaran diri, AI umum (AGI) masa depan berpotensi mengejar matlamat yang tidak selari dengan nilai manusia.
Saintis AI terkemuka baru-baru ini memberi amaran bahawa "sistem AI generalis yang sangat berkuasa" mungkin muncul dalam masa terdekat kecuali kita bersedia.
Pemenang Hadiah Nobel Geoffrey Hinton dan pakar lain malah menggambarkan risiko meningkat bahawa AI boleh membahayakan manusia jika AI maju tidak diselaraskan dengan keperluan kita. Walaupun risiko ini tidak pasti, ia telah mendorong seruan berprofil tinggi untuk berhati-hati.
Impak Tenaga dan Alam Sekitar
Latihan dan pengoperasian model AI besar menggunakan banyak elektrik. UNESCO melaporkan penggunaan tenaga tahunan AI generatif kini setanding dengan sebuah negara kecil di Afrika – dan ia berkembang dengan cepat.
Ini boleh memburukkan perubahan iklim kecuali kita menggunakan kaedah yang lebih hijau.
Apa Kata Pakar dan Pegawai
Memandangkan isu-isu ini, ramai pemimpin dan penyelidik telah bersuara. Satu konsensus besar pakar AI telah terbentuk dalam beberapa tahun kebelakangan ini.
Mereka menekankan bahawa pembangunan AI telah berlumba-lumba "dengan keselamatan sebagai pemikiran selepas," dan kita kini kekurangan institusi untuk menghalang aplikasi liar.
Perspektif Pemimpin Teknologi
Sam Altman (CEO OpenAI)
Demis Hassabis (Google DeepMind)
Kita berada dalam "perlumbaan yang tidak terkawal" untuk membina AI yang lebih berkuasa yang bahkan penciptanya "tidak dapat memahami, meramalkan, atau mengawalnya dengan boleh dipercayai".
— Surat terbuka yang ditandatangani oleh lebih 1,000 profesional AI (termasuk Elon Musk, Steve Wozniak, dan ramai penyelidik AI)
Respons Kerajaan dan Antarabangsa
Respons Kerajaan AS
White House mengeluarkan Perintah Eksekutif pada 2023 yang menyatakan AI "mempunyai potensi luar biasa untuk janji dan bahaya" dan menyeru "penggunaan AI yang bertanggungjawab" melalui usaha seluruh masyarakat untuk mengurangkan risiko besarnya.
NIST (Institut Piawaian Kebangsaan AS) telah mengeluarkan Rangka Kerja Pengurusan Risiko AI untuk membimbing syarikat membina AI yang boleh dipercayai.
Akta AI Kesatuan Eropah
Kesatuan Eropah meluluskan Akta AI pertama di dunia (berkuat kuasa 2024), mengharamkan amalan berbahaya seperti penilaian sosial kerajaan dan mewajibkan ujian ketat untuk AI berisiko tinggi (dalam kesihatan, penguatkuasaan undang-undang, dan lain-lain).
- Mengharamkan amalan AI yang tidak boleh diterima
- Keperluan ketat untuk sistem AI berisiko tinggi
- Kewajipan ketelusan untuk AI tujuan umum
- Denda berat bagi ketidakpatuhan
Kerjasama Global
UNESCO menerbitkan cadangan etika AI global yang menggesa keadilan, ketelusan dan perlindungan hak asasi manusia dalam AI.
Kumpulan seperti OECD dan PBB sedang mengusahakan prinsip AI (banyak negara telah menandatangani). Syarikat dan universiti membentuk institut keselamatan AI dan gabungan untuk menyelidik risiko jangka panjang.
Langkah Keselamatan dan Peraturan
Nasib baik, banyak penyelesaian sudah dilaksanakan. Idea utama ialah "keselamatan AI melalui reka bentuk". Syarikat semakin banyak membina peraturan etika dalam pembangunan AI.
Contohnya, makmal AI menguji model untuk bias sebelum dikeluarkan dan menambah penapis kandungan untuk mengelakkan output yang eksplisit atau palsu. Kerajaan dan institusi sedang mengkodkan ini.
Rangka Kerja Peraturan
Pembangunan Tanpa Kawalan
- Tiada keperluan ujian bias
- Ketelusan terhad
- Langkah keselamatan tidak konsisten
- Penyelesaian masalah secara reaktif
Pengawasan Berstruktur
- Audit bias wajib
- Keperluan ketelusan
- Prinsip keselamatan melalui reka bentuk
- Pengurusan risiko secara proaktif
Langkah Keselamatan Semasa
Penyelesaian Teknikal
Makmal AI menguji model untuk bias sebelum dikeluarkan dan menambah penapis kandungan untuk mengelakkan output yang eksplisit atau palsu. Badan penetapan piawaian mengeluarkan garis panduan untuk organisasi menilai dan mengurangkan risiko AI.
Rangka Kerja Undang-Undang
Akta AI EU mengharamkan beberapa penggunaan berbahaya secara mutlak dan mengklasifikasikan penggunaan lain sebagai "berisiko tinggi" (tertakluk kepada audit). Rangka etika AI UNESCO menggesa audit keadilan, perlindungan keselamatan siber, dan proses aduan yang mudah diakses.
Kerjasama Industri
Syarikat dan universiti membentuk institut keselamatan AI dan gabungan untuk menyelidik risiko jangka panjang. Kerjasama awam-swasta mengenai keselamatan dan kempen pendidikan tentang deepfake menjadi standard.
Penglibatan Awam
Kempen pendidikan tentang risiko dan manfaat AI, serta undian yang bertanya kepada rakyat berapa banyak autonomi yang harus diberikan kepada mesin, memastikan penyertaan demokratik dalam tadbir urus AI.
Pihak berkuasa sedang berusaha mengemas kini undang-undang mengenai ucapan kebencian, hak cipta dan privasi untuk memasukkan kandungan yang dijana AI. Seperti yang dinyatakan oleh seorang pakar NZ, banyak undang-undang semasa "tidak direka dengan AI generatif dalam fikiran," jadi penggubal undang-undang sedang mengejar perkembangan.
Kesimpulan: Perspektif Seimbang tentang Keselamatan AI
Jadi, adakah AI berbahaya? Jawapannya adalah rumit. AI tidak jahat secara semula jadi – ia adalah alat yang dicipta oleh manusia.
Dalam pelbagai bentuk praktikalnya hari ini, ia telah membawa manfaat besar kepada perubatan, pendidikan, industri dan lain-lain (seperti yang diketengahkan oleh organisasi seperti UNESCO dan EU).
Pada masa yang sama, hampir semua orang bersetuju AI boleh menjadi berbahaya jika kuasanya disalahgunakan atau dibiarkan tanpa panduan.
Untuk Pelajar Muda
Langkah Keselamatan
Kebimbangan biasa termasuk pelanggaran privasi, bias, maklumat salah, gangguan pekerjaan, dan risiko hipotesis kecerdasan super yang tidak terkawal.
Dengan "pagar keselamatan" yang betul – pembangunan AI beretika, peraturan kukuh dan kesedaran awam – kita boleh mengemudi AI ke arah keselamatan dan memastikan ia memberi manfaat kepada manusia tanpa menjadi berbahaya.
