Risiko Menggunakan AI

Kecerdasan Buatan (AI) kini terjalin dalam segala hal mulai dari asisten ponsel pintar dan feed media sosial hingga layanan kesehatan dan transportasi. Teknologi ini membawa manfaat yang belum pernah terjadi sebelumnya, tetapi juga datang dengan risiko dan tantangan yang signifikan.

Dalam artikel ini, mari kita jelajahi bersama INVIAI risiko menggunakan AI di semua bidang dan jenis AI – mulai dari chatbot dan algoritma hingga robot – berdasarkan wawasan dari sumber resmi dan internasional.

Bias dan Diskriminasi dalam Sistem AI

Salah satu risiko utama AI adalah penguatan bias dan diskriminasi yang tidak adil. Model AI belajar dari data yang mungkin mencerminkan prasangka atau ketidaksetaraan historis; akibatnya, sistem AI dapat memperlakukan orang secara berbeda berdasarkan ras, jenis kelamin, atau karakteristik lain dengan cara yang memperpetuasi ketidakadilan.

AI umum yang berfungsi tidak semestinya dapat menyebabkan kerugian melalui keputusan bias terkait karakteristik yang dilindungi seperti ras, jenis kelamin, budaya, usia, dan disabilitas.

— Laporan Keamanan AI Internasional

Organisasi global seperti UNESCO memperingatkan bahwa tanpa langkah keadilan, AI berisiko "mereproduksi bias dan diskriminasi dunia nyata, memicu perpecahan dan mengancam hak asasi manusia dan kebebasan fundamental". Memastikan sistem AI dilatih dengan data yang beragam dan representatif serta diaudit untuk bias sangat penting untuk mencegah diskriminasi otomatis.

Bias dan Diskriminasi dalam Sistem AI

Bahaya Misinformasi dan Deepfake

Kemampuan AI untuk menghasilkan teks, gambar, dan video hiper-realistis telah memicu kekhawatiran akan banjir misinformasi. AI Generatif dapat memproduksi artikel berita palsu yang meyakinkan, gambar palsu, atau video deepfake yang sulit dibedakan dari kenyataan.

Faktanya, misinformasi dan disinformasi yang didorong oleh AI merupakan salah satu "tantangan terbesar bagi proses demokrasi" – terutama dengan miliaran orang yang akan memilih dalam pemilu mendatang. Media sintetis seperti video deepfake dan suara kloning AI dapat digunakan sebagai senjata untuk menyebarkan propaganda, meniru tokoh publik, atau melakukan penipuan.

Pejabat memperingatkan bahwa aktor jahat dapat memanfaatkan AI untuk kampanye disinformasi skala besar, memudahkan banjir konten palsu di jejaring sosial dan menimbulkan kekacauan. Risikonya adalah lingkungan informasi yang sinis di mana warga tidak dapat mempercayai apa yang mereka lihat atau dengar, merusak diskursus publik dan demokrasi.

Bahaya Misinformasi dan Deepfake dalam AI

Ancaman terhadap Privasi dan Pengawasan Massal

Pemanfaatan AI yang luas menimbulkan keprihatinan serius tentang privasi. Sistem AI sering membutuhkan data pribadi dalam jumlah besar – mulai dari wajah dan suara kita hingga kebiasaan belanja dan lokasi – agar berfungsi efektif. Tanpa perlindungan yang kuat, data ini dapat disalahgunakan atau dieksploitasi.

Misalnya, pengenalan wajah dan algoritma prediktif dapat memungkinkan pengawasan menyeluruh, melacak setiap gerakan individu atau menilai perilaku mereka tanpa persetujuan.

Privasi adalah hak yang esensial untuk perlindungan martabat manusia, otonomi, dan agensi yang harus dihormati sepanjang siklus hidup sistem AI.

— Badan Perlindungan Data

Jika pengembangan AI melampaui regulasi privasi, individu bisa kehilangan kendali atas informasi mereka sendiri. Masyarakat harus memastikan tata kelola data yang kuat, mekanisme persetujuan, dan teknik pelindung privasi diterapkan agar teknologi AI tidak berubah menjadi alat pengawasan tanpa kendali.

Ancaman terhadap Privasi dan Pengawasan Massal

Kegagalan Keamanan dan Kerugian Tak Terduga

Meski AI dapat mengotomatisasi keputusan dan tugas fisik dengan efisiensi supermanusia, AI juga dapat gagal dengan cara yang tidak terduga, menyebabkan kerugian nyata. Kita mempercayakan AI dengan tanggung jawab yang semakin kritis terhadap keselamatan – seperti mengemudikan mobil, mendiagnosis pasien, atau mengelola jaringan listrik – tetapi sistem ini tidak sempurna.

Gangguan, data pelatihan yang cacat, atau situasi tak terduga dapat menyebabkan AI membuat kesalahan berbahaya. AI mobil swakemudi mungkin salah mengenali pejalan kaki, atau AI medis bisa merekomendasikan pengobatan yang salah dengan konsekuensi yang berpotensi fatal.

Kerugian yang tidak diinginkan (risiko keselamatan), serta kerentanan terhadap serangan (risiko keamanan) harus dihindari dan ditangani sepanjang siklus hidup sistem AI untuk memastikan keselamatan dan keamanan manusia, lingkungan, dan ekosistem.

— Pedoman AI Internasional

Dengan kata lain, sistem AI harus diuji secara ketat, dipantau, dan dibangun dengan pengaman untuk meminimalkan kemungkinan kegagalan. Ketergantungan berlebihan pada AI juga berisiko – jika manusia mempercayai keputusan otomatis secara membabi buta, mereka mungkin tidak turun tangan tepat waktu saat terjadi kesalahan.

Memastikan pengawasan manusia sangat penting. Dalam penggunaan berisiko tinggi (seperti kesehatan atau transportasi), keputusan akhir harus tetap berdasarkan penilaian manusia. Mempertahankan keselamatan dan keandalan AI adalah tantangan berkelanjutan yang membutuhkan desain hati-hati dan budaya tanggung jawab dari pengembang AI.

Kegagalan Keamanan dan Kerugian Tak Terduga dalam AI

Penggantian Pekerjaan dan Gangguan Ekonomi

Dampak transformasi AI pada ekonomi adalah pedang bermata dua. Di satu sisi, AI dapat meningkatkan produktivitas dan menciptakan industri baru; di sisi lain, AI membawa risiko menggantikan jutaan pekerja melalui otomatisasi.

Banyak pekerjaan – terutama yang melibatkan tugas rutin, berulang, atau data yang mudah dianalisis – rentan diambil alih oleh algoritma dan robot AI.

Meski ekonomi juga dapat menciptakan peran baru (mungkin lebih banyak pekerjaan daripada yang hilang dalam jangka panjang), transisi ini akan menyakitkan bagi banyak orang. Pekerjaan baru sering membutuhkan keterampilan berbeda dan lebih maju atau terkonsentrasi di pusat teknologi tertentu, sehingga banyak pekerja yang tergantikan mungkin kesulitan menemukan pijakan baru.

Ketidaksesuaian antara keterampilan pekerja dan tuntutan peran baru berbasis AI ini dapat menyebabkan pengangguran dan ketidaksetaraan yang lebih tinggi jika tidak diatasi. Memang, pembuat kebijakan dan peneliti memperingatkan bahwa kemajuan AI yang cepat dapat membawa "gangguan pasar tenaga kerja dan ketimpangan kekuatan ekonomi" secara sistemik.

Tanpa langkah proaktif (seperti program pelatihan ulang, pendidikan keterampilan AI, dan jaring pengaman sosial), AI dapat memperlebar kesenjangan sosial ekonomi, menciptakan ekonomi berbasis AI di mana pemilik teknologi menikmati sebagian besar manfaat.

Mempersiapkan tenaga kerja menghadapi dampak AI sangat penting agar manfaat otomatisasi dapat dinikmati secara luas dan mencegah gejolak sosial akibat kehilangan pekerjaan massal.

Penggantian Pekerjaan dan Gangguan Ekonomi dalam AI

Penyalahgunaan Kriminal, Penipuan, dan Ancaman Keamanan

AI adalah alat yang kuat yang dapat digunakan untuk tujuan jahat maupun mulia. Penjahat siber dan aktor jahat lainnya sudah memanfaatkan AI untuk meningkatkan serangan mereka.

Misalnya, AI dapat menghasilkan email phishing atau pesan suara yang sangat personal (dengan mengkloning suara seseorang) untuk menipu orang agar mengungkap informasi sensitif atau mengirim uang. AI juga dapat digunakan untuk mengotomatisasi peretasan dengan menemukan kerentanan perangkat lunak secara masif atau mengembangkan malware yang beradaptasi untuk menghindari deteksi.

Aktor jahat dapat menggunakan AI untuk operasi disinformasi dan pengaruh skala besar, penipuan, dan scam.

— Laporan yang Dipesan Pemerintah Inggris

Center for AI Safety mengidentifikasi penyalahgunaan AI sebagai perhatian utama, mencatat skenario seperti sistem AI yang digunakan oleh penjahat untuk melakukan penipuan dan serangan siber skala besar.

Kecepatan, skala, dan kecanggihan yang diberikan AI dapat membanjiri pertahanan tradisional – bayangkan ribuan panggilan scam yang dihasilkan AI atau video deepfake yang menargetkan keamanan perusahaan dalam satu hari.

Seiring alat AI menjadi lebih mudah diakses, hambatan untuk melakukan aktivitas jahat ini menurun, berpotensi menyebabkan lonjakan kejahatan yang dibantu AI.

Ini membutuhkan pendekatan baru dalam keamanan siber dan penegakan hukum, seperti sistem AI yang dapat mendeteksi deepfake atau perilaku anomali dan kerangka hukum yang diperbarui untuk menuntut pelaku. Intinya, kita harus mengantisipasi bahwa kemampuan apa pun yang diberikan AI kepada pihak baik, mungkin juga diberikan kepada penjahat – dan mempersiapkan diri sesuai.

Penyalahgunaan Kriminal, Penipuan, dan Ancaman Keamanan dalam AI

Militerisasi dan Senjata Otonom

Mungkin risiko paling mengerikan dari AI muncul dalam konteks perang dan keamanan nasional. AI dengan cepat diintegrasikan ke dalam sistem militer, menimbulkan prospek senjata otonom ("robot pembunuh") dan pengambilan keputusan berbasis AI dalam pertempuran.

Teknologi ini dapat bereaksi lebih cepat daripada manusia mana pun, tetapi menghilangkan kendali manusia atas penggunaan kekuatan mematikan penuh bahaya. Ada risiko bahwa senjata yang dikendalikan AI dapat memilih target yang salah atau meningkatkan konflik dengan cara yang tidak terduga.

Jika negara-negara berlomba melengkapi persenjataan mereka dengan senjata cerdas, ini dapat memicu perlombaan senjata yang tidak stabil. Selain itu, AI dapat digunakan dalam perang siber untuk menyerang infrastruktur kritis secara otonom atau menyebarkan propaganda, mengaburkan garis antara damai dan konflik.

Pengembangan AI dalam perang, jika terkonsentrasi di tangan beberapa pihak, dapat dipaksakan kepada orang tanpa mereka memiliki suara dalam penggunaannya, merusak keamanan dan etika global.

— Perserikatan Bangsa-Bangsa

Sistem senjata otonom juga menimbulkan dilema hukum dan moral – siapa yang bertanggung jawab jika drone AI secara keliru membunuh warga sipil? Bagaimana sistem tersebut mematuhi hukum humaniter internasional?

Pertanyaan yang belum terjawab ini telah memicu seruan pelarangan atau regulasi ketat terhadap senjata berbasis AI tertentu. Memastikan pengawasan manusia atas AI yang dapat membuat keputusan hidup dan mati dianggap sangat penting. Tanpa itu, risikonya bukan hanya kesalahan tragis di medan perang tetapi juga erosi tanggung jawab manusia dalam perang.

Militerisasi dan Senjata Otonom dalam AI

Kurangnya Transparansi dan Akuntabilitas

Kebanyakan sistem AI canggih saat ini beroperasi sebagai "kotak hitam" – logika internalnya sering tidak transparan bahkan bagi penciptanya. Kurangnya transparansi ini menciptakan risiko bahwa keputusan AI tidak dapat dijelaskan atau dipertanyakan, yang merupakan masalah serius di bidang seperti hukum, keuangan, atau kesehatan di mana penjelasan bisa menjadi persyaratan hukum atau etika.

Jika AI menolak pinjaman seseorang, mendiagnosis penyakit, atau memutuskan siapa yang dibebaskan bersyarat dari penjara, kita secara alami ingin tahu alasannya. Dengan beberapa model AI (terutama jaringan saraf kompleks), memberikan alasan yang jelas sulit dilakukan.

Kurangnya transparansi juga dapat merusak kemungkinan menantang keputusan secara efektif berdasarkan hasil yang dihasilkan oleh sistem AI, dan dapat melanggar hak atas pengadilan yang adil dan upaya hukum yang efektif.

— UNESCO

Dengan kata lain, jika pengguna maupun regulator tidak dapat memahami bagaimana AI membuat keputusan, hampir mustahil untuk meminta pertanggungjawaban atas kesalahan atau bias yang muncul.

Untuk mengatasi ini, para ahli menganjurkan teknik AI yang dapat dijelaskan, audit ketat, dan persyaratan regulasi agar keputusan AI dapat ditelusuri ke otoritas manusia.

Memang, pedoman etika global menegaskan bahwa harus "selalu mungkin untuk mengatribusikan tanggung jawab etis dan hukum" atas perilaku sistem AI kepada seseorang atau organisasi. Manusia harus tetap bertanggung jawab secara akhir, dan AI harus membantu bukan menggantikan penilaian manusia dalam hal sensitif. Jika tidak, kita berisiko menciptakan dunia di mana keputusan penting dibuat oleh mesin yang tidak dapat dipahami, yang merupakan resep ketidakadilan.

Kurangnya Transparansi dan Akuntabilitas dalam Penggunaan AI di Tempat Kerja

Konsentrasi Kekuasaan dan Ketidaksetaraan

Revolusi AI tidak terjadi merata di seluruh dunia – sejumlah kecil perusahaan dan negara mendominasi pengembangan AI canggih, yang membawa risiko tersendiri.

Model AI mutakhir membutuhkan data, talenta, dan sumber daya komputasi yang sangat besar yang hanya dimiliki oleh raksasa teknologi (dan pemerintah yang didanai dengan baik) saat ini.

Hal ini telah menghasilkan rantai pasokan yang sangat terkonsentrasi, tunggal, dan terintegrasi secara global yang menguntungkan beberapa perusahaan dan negara.

— Forum Ekonomi Dunia

Konsentrasi kekuatan AI seperti ini dapat berujung pada kontrol monopoli atas teknologi AI, membatasi persaingan dan pilihan konsumen. Ini juga meningkatkan bahaya bahwa prioritas perusahaan atau negara tersebut akan membentuk AI dengan cara yang tidak memperhitungkan kepentingan publik yang lebih luas.

Ketidakseimbangan ini dapat memperburuk ketidaksetaraan global: negara dan perusahaan kaya melaju pesat dengan memanfaatkan AI, sementara komunitas miskin kekurangan akses ke alat terbaru dan mengalami kehilangan pekerjaan tanpa menikmati manfaat AI.

Selain itu, industri AI yang terkonsentrasi dapat menghambat inovasi (jika pendatang baru tidak dapat bersaing dengan sumber daya pemain lama) dan menimbulkan risiko keamanan (jika infrastruktur AI kritis dikendalikan oleh sedikit entitas, menjadi titik kegagalan atau manipulasi tunggal).

Menangani risiko ini memerlukan kerja sama internasional dan mungkin regulasi baru untuk mendemokratisasi pengembangan AI – misalnya, mendukung riset terbuka, memastikan akses data dan komputasi yang adil, dan merancang kebijakan (seperti RUU AI Uni Eropa) untuk mencegah praktik abusif oleh "penjaga gerbang AI." Lanskap AI yang lebih inklusif akan membantu memastikan manfaat AI dibagi secara global, bukan memperlebar kesenjangan antara yang memiliki dan tidak memiliki teknologi.

Konsentrasi Kekuasaan dan Ketidaksetaraan

Dampak Lingkungan AI

Sering diabaikan dalam diskusi risiko AI adalah jejak lingkungan-nya. Pengembangan AI, terutama pelatihan model pembelajaran mesin besar, mengonsumsi listrik dan daya komputasi dalam jumlah besar.

Pusat data yang dipenuhi ribuan server haus daya diperlukan untuk memproses arus data yang dipelajari sistem AI. Ini berarti AI secara tidak langsung berkontribusi pada emisi karbon dan perubahan iklim.

Seiring investasi dalam AI tumbuh, emisi dari pengoperasian model AI diperkirakan akan naik tajam – laporan memproyeksikan bahwa sistem AI teratas dapat mengeluarkan lebih dari 100 juta ton CO₂ per tahun, memberikan tekanan besar pada infrastruktur energi.

Untuk memberi gambaran, pusat data yang menjalankan AI meningkatkan penggunaan listrik "empat kali lebih cepat daripada kenaikan konsumsi listrik secara keseluruhan".

Selain emisi karbon, AI juga dapat menghabiskan air untuk pendinginan dan menghasilkan limbah elektronik saat perangkat keras cepat diperbarui. Jika tidak dikendalikan, dampak lingkungan AI dapat merusak upaya keberlanjutan global.

Risiko ini menuntut AI menjadi lebih hemat energi dan menggunakan sumber energi yang lebih bersih. Para peneliti mengembangkan teknik AI hijau untuk mengurangi penggunaan daya, dan beberapa perusahaan telah berjanji mengimbangi biaya karbon AI. Namun demikian, ini tetap menjadi perhatian mendesak bahwa laju perkembangan AI dapat membawa harga lingkungan yang tinggi. Menyeimbangkan kemajuan teknologi dengan tanggung jawab ekologis adalah tantangan lain yang harus dihadapi masyarakat saat kita mengintegrasikan AI di mana-mana.

Dampak Lingkungan AI

Risiko Eksistensial dan Jangka Panjang

Selain risiko langsung, beberapa ahli memperingatkan risiko jangka panjang yang lebih spekulatif dari AI – termasuk kemungkinan AI canggih yang berkembang di luar kendali manusia. Meskipun sistem AI saat ini terbatas kemampuannya, para peneliti aktif mengembangkan AI umum yang berpotensi melampaui manusia di banyak bidang.

Ini menimbulkan pertanyaan kompleks: jika AI menjadi jauh lebih cerdas atau otonom, apakah ia dapat bertindak dengan cara yang mengancam keberadaan umat manusia? Meskipun terdengar seperti fiksi ilmiah, tokoh terkemuka di komunitas teknologi telah menyuarakan kekhawatiran tentang skenario "AI nakal", dan pemerintah mengambil diskusi ini dengan serius.

Para ahli memiliki pandangan berbeda tentang risiko manusia kehilangan kendali atas AI yang dapat mengakibatkan hasil bencana.

— Laporan Keamanan AI Internasional

Konsensus ilmiah tidak seragam – beberapa percaya AI super-cerdas masih puluhan tahun lagi atau dapat dijaga agar selaras dengan nilai manusia, sementara yang lain melihat kemungkinan kecil namun nyata dari hasil bencana.

Intinya, ada pengakuan bahwa risiko eksistensial dari AI, meskipun kecil, tidak dapat sepenuhnya diabaikan. Hasil seperti itu mungkin melibatkan AI yang mengejar tujuannya dengan merugikan kesejahteraan manusia (contoh klasik adalah AI yang, jika salah diprogram, memutuskan melakukan sesuatu yang berbahaya dalam skala besar karena kurangnya akal sehat atau batasan moral).

Meski tidak ada AI saat ini yang memiliki agensi sedemikian, laju kemajuan AI sangat cepat dan tidak dapat diprediksi, yang merupakan faktor risiko tersendiri.

Mempersiapkan risiko jangka panjang berarti berinvestasi dalam riset penyelarasan AI (memastikan tujuan AI tetap kompatibel dengan nilai manusia), membangun perjanjian internasional untuk riset AI berisiko tinggi (seperti perjanjian senjata nuklir atau biologis), dan mempertahankan pengawasan manusia seiring sistem AI semakin mampu.

Masa depan AI menyimpan janji besar, tetapi juga ketidakpastian – dan kewaspadaan mengharuskan kita mempertimbangkan risiko berdampak tinggi meski probabilitasnya rendah dalam perencanaan jangka panjang.

Risiko Eksistensial dan Jangka Panjang dalam AI

Menavigasi Masa Depan AI dengan Bertanggung Jawab

AI sering dibandingkan dengan mesin kuat yang dapat mendorong umat manusia maju – tetapi tanpa rem dan kemudi, mesin itu dapat menyimpang dari jalur. Seperti yang telah kita lihat, risiko menggunakan AI sangat beragam: mulai dari masalah langsung seperti algoritma bias, berita palsu, pelanggaran privasi, dan gejolak pekerjaan, hingga tantangan sosial yang lebih luas seperti ancaman keamanan, pengambilan keputusan "kotak hitam," monopoli Big Tech, tekanan lingkungan, dan bahkan bayangan jauh kehilangan kendali pada AI super-cerdas.

Pemerintah, organisasi internasional, pemimpin industri, dan peneliti semakin bekerja sama untuk mengatasi kekhawatiran ini – misalnya, melalui kerangka kerja seperti:

• Kerangka Manajemen Risiko AI NIST AS (untuk meningkatkan kepercayaan AI)
• Rekomendasi Etika AI UNESCO secara global
• Undang-Undang AI Uni Eropa

Upaya tersebut bertujuan untuk memaksimalkan manfaat AI sekaligus meminimalkan dampak negatifnya, memastikan AI melayani umat manusia dan bukan sebaliknya.