Apakah Anda penasaran tentang bias algoritmik dalam AI? Bergabunglah dengan INVIAI untuk mempelajari lebih lanjut tentang AI dan Bias Algoritmik dalam artikel ini!

Kecerdasan Buatan (AI) semakin melekat dalam kehidupan sehari-hari kita – mulai dari keputusan perekrutan hingga layanan kesehatan dan penegakan hukum – namun penggunaannya menimbulkan kekhawatiran tentang bias algoritmik. Bias algoritmik merujuk pada prasangka sistematis dan tidak adil dalam keluaran sistem AI, yang sering mencerminkan stereotip dan ketidaksetaraan sosial.

Pada dasarnya, algoritma AI dapat tanpa sengaja mereproduksi bias manusia yang ada dalam data pelatihan atau desainnya, yang berujung pada hasil diskriminatif.

Masalah ini telah menjadi salah satu tantangan paling hangat dalam etika teknologi, menarik perhatian global dari peneliti, pembuat kebijakan, dan pemimpin industri. Adopsi AI yang cepat membuat penting untuk segera menangani bias: tanpa pengawasan etis, AI berisiko mereproduksi bias dan diskriminasi dunia nyata, memperparah perpecahan sosial dan bahkan mengancam hak asasi manusia fundamental.

Di bawah ini, kami membahas penyebab bias algoritmik, contoh dampaknya di dunia nyata, dan bagaimana dunia berupaya membuat AI lebih adil.

Memahami Bias Algoritmik dan Penyebabnya

Bias algoritmik biasanya muncul bukan karena AI “ingin” mendiskriminasi, melainkan karena faktor manusia. Sistem AI belajar dari data dan mengikuti aturan yang dibuat oleh manusia – dan manusia memiliki bias (seringkali tidak disadari).
Jika data pelatihan miring atau mencerminkan prasangka historis, AI kemungkinan besar akan mempelajari pola tersebut.

Misalnya, AI penyaring resume yang dilatih dengan data perekrutan industri teknologi selama satu dekade (di mana sebagian besar pelamar yang diterima adalah pria) mungkin menyimpulkan kandidat pria lebih diutamakan, sehingga merugikan perempuan. Penyebab umum lainnya termasuk dataset yang tidak lengkap atau tidak representatif, pelabelan data yang bias, atau algoritma yang dioptimalkan untuk akurasi secara keseluruhan tapi tidak untuk keadilan bagi kelompok minoritas.

Singkatnya, algoritma AI mewarisi bias dari pembuat dan datanya kecuali langkah-langkah sengaja diambil untuk mengenali dan memperbaiki bias tersebut.

Perlu dicatat bahwa bias algoritmik biasanya tidak disengaja. Organisasi sering mengadopsi AI untuk membuat keputusan lebih objektif, tetapi jika mereka “memberi makan” sistem dengan informasi bias atau gagal mempertimbangkan keadilan dalam desain, hasilnya tetap bisa tidak adil. Bias AI dapat secara tidak adil membatasi peluang dan menghasilkan hasil yang tidak akurat, berdampak negatif pada kesejahteraan orang dan mengikis kepercayaan terhadap AI.

Memahami mengapa bias terjadi adalah langkah pertama menuju solusi – dan ini adalah langkah yang kini diambil dengan serius oleh akademisi, industri, dan pemerintah di seluruh dunia.

Contoh Nyata Bias AI di Dunia

Bias dalam AI bukan hanya kekhawatiran hipotetis; banyak kasus nyata yang mengungkap bagaimana bias algoritmik dapat menyebabkan diskriminasi. Contoh penting bias AI di berbagai sektor meliputi:

• Peradilan Pidana: Di Amerika Serikat, algoritma populer yang digunakan untuk memprediksi residivisme kriminal (kemungkinan mengulangi kejahatan) ditemukan bias terhadap terdakwa kulit hitam. Algoritma ini sering menilai terdakwa kulit hitam sebagai risiko tinggi dan terdakwa kulit putih sebagai risiko rendah, memperparah ketimpangan rasial dalam putusan pengadilan.
  Kasus ini menunjukkan bagaimana AI dapat memperkuat bias historis dalam penegakan hukum dan pengadilan.

• Perekrutan dan Rekrutmen: Amazon terkenal menghentikan alat perekrutan AI setelah menemukan alat tersebut mendiskriminasi perempuan. Model pembelajaran mesin tersebut mengajarkan dirinya sendiri bahwa kandidat pria lebih diutamakan, karena dilatih dengan resume masa lalu yang sebagian besar dari pria.
  
  Akibatnya, resume yang mengandung kata “perempuan” (misalnya “kapten klub catur perempuan”) atau perguruan tinggi khusus perempuan mendapat peringkat lebih rendah oleh sistem. Algoritma perekrutan bias ini secara tidak adil menyaring keluar perempuan yang memenuhi syarat untuk pekerjaan teknis.

• Kesehatan: Algoritma yang digunakan oleh rumah sakit di seluruh AS untuk mengidentifikasi pasien yang membutuhkan perawatan ekstra ditemukan meremehkan kebutuhan kesehatan pasien kulit hitam dibandingkan pasien kulit putih. Sistem memprediksi prioritas manajemen perawatan berdasarkan pengeluaran kesehatan: karena secara historis lebih sedikit uang yang dibelanjakan untuk pasien kulit hitam dengan tingkat penyakit yang sama, algoritma salah menyimpulkan pasien kulit hitam “lebih sehat” dan memberikan skor risiko lebih rendah.
  
  Dalam praktiknya, bias ini berarti banyak pasien kulit hitam yang membutuhkan perawatan lebih diabaikan – studi menunjukkan pasien kulit hitam mengeluarkan biaya medis sekitar $1.800 lebih sedikit per tahun dibanding pasien kulit putih yang sakit setara, sehingga AI meremehkan perawatan mereka.

• Pengenalan Wajah: Teknologi pengenalan wajah menunjukkan bias signifikan dalam akurasi di berbagai demografi. Studi komprehensif 2019 oleh National Institute of Standards and Technology (NIST) AS menemukan bahwa sebagian besar algoritma pengenalan wajah memiliki tingkat kesalahan jauh lebih tinggi untuk orang berwarna dan perempuan dibanding pria kulit putih.
  
  Dalam skenario pencocokan satu-ke-satu (memverifikasi apakah dua foto adalah orang yang sama), identifikasi positif palsu untuk wajah Asia dan Afrika-Amerika 10 hingga 100 kali lebih mungkin dibanding wajah Kaukasia pada beberapa algoritma. Dalam pencarian satu-ke-banyak (mengidentifikasi seseorang dari database, digunakan oleh penegak hukum), tingkat kesalahan tertinggi adalah untuk perempuan kulit hitam – bias berbahaya yang sudah menyebabkan penangkapan orang tak bersalah.
  
  Ketimpangan ini menunjukkan bagaimana AI bias dapat merugikan kelompok marjinal secara tidak proporsional.

• AI Generatif dan Konten Online: Bahkan sistem AI terbaru tidak kebal. Studi UNESCO 2024 mengungkap bahwa model bahasa besar (AI di balik chatbot dan generator konten) sering menghasilkan stereotip gender dan ras yang regresif.
  
  Misalnya, perempuan digambarkan dalam peran domestik empat kali lebih sering daripada pria oleh satu model populer, dengan nama feminin sering dikaitkan dengan kata seperti “rumah” dan “anak-anak,” sementara nama laki-laki diasosiasikan dengan “eksekutif,” “gaji,” dan “karier”. Demikian pula, studi menemukan model AI ini menunjukkan bias homofobik dan stereotip budaya dalam hasilnya.
  
  Mengingat jutaan orang kini menggunakan AI generatif dalam kehidupan sehari-hari, bahkan bias halus dalam konten dapat memperkuat ketidaksetaraan di dunia nyata, memperkokoh stereotip secara masif.

Contoh-contoh ini menegaskan bahwa bias algoritmik bukan masalah jauh atau langka – ini terjadi di berbagai bidang hari ini. Dari peluang kerja hingga keadilan, kesehatan hingga informasi online, sistem AI bias dapat mereplikasi dan bahkan memperkuat diskriminasi yang sudah ada.

Kerugian sering ditanggung oleh kelompok yang secara historis kurang beruntung, menimbulkan kekhawatiran serius tentang etika dan hak asasi manusia. Seperti yang diperingatkan UNESCO, risiko AI adalah “menumpuk di atas ketidaksetaraan yang sudah ada, mengakibatkan kerugian lebih lanjut bagi kelompok yang sudah termarjinalkan”.

Mengapa Bias AI Penting?

Taruhannya sangat tinggi dalam menangani bias AI. Jika dibiarkan, algoritma bias dapat memperkuat diskriminasi sistemik di balik tampilan netralitas teknologi. Keputusan yang dibuat (atau dipandu) oleh AI – siapa yang diterima kerja, siapa yang mendapat pinjaman atau pembebasan bersyarat, bagaimana polisi menargetkan pengawasan – membawa konsekuensi nyata bagi kehidupan orang.

Jika keputusan tersebut tidak adil terhadap gender, ras, atau komunitas tertentu, ketidaksetaraan sosial akan melebar. Ini dapat menyebabkan peluang yang ditolak, kesenjangan ekonomi, atau bahkan ancaman terhadap kebebasan dan keselamatan pribadi bagi kelompok yang terdampak.

Dalam gambaran besar, bias algoritmik menggerogoti hak asasi manusia dan keadilan sosial, bertentangan dengan prinsip kesetaraan dan non-diskriminasi yang dijunjung masyarakat demokratis.

Bias dalam AI juga mengikis kepercayaan publik terhadap teknologi. Orang cenderung kurang percaya atau mengadopsi sistem AI yang dianggap tidak adil atau tidak transparan.

Bagi bisnis dan pemerintah, defisit kepercayaan ini adalah masalah serius – inovasi yang sukses membutuhkan kepercayaan publik. Seperti yang dikatakan seorang ahli, keputusan AI yang adil dan tanpa bias bukan hanya etis, tetapi juga baik untuk bisnis dan masyarakat karena inovasi berkelanjutan bergantung pada kepercayaan.

Sebaliknya, kegagalan AI yang sangat dipublikasikan akibat bias (seperti kasus-kasus di atas) dapat merusak reputasi dan legitimasi organisasi.

Selain itu, bias algoritmik dapat mengurangi manfaat potensial AI. AI menjanjikan peningkatan efisiensi dan pengambilan keputusan, tetapi jika hasilnya diskriminatif atau tidak akurat untuk sebagian populasi, AI tidak dapat mencapai dampak positif penuh.

Misalnya, alat kesehatan AI yang bekerja baik untuk satu demografi tapi buruk untuk yang lain tidak benar-benar efektif atau dapat diterima. Seperti yang diamati OECD, bias dalam AI secara tidak adil membatasi peluang dan dapat merugikan reputasi bisnis serta kepercayaan pengguna.

Singkatnya, menangani bias bukan hanya kewajiban moral tetapi juga penting untuk memanfaatkan manfaat AI bagi semua individu secara adil.

Strategi Mengurangi Bias AI

Karena bias algoritmik kini diakui secara luas, berbagai strategi dan praktik terbaik telah muncul untuk menguranginya. Memastikan sistem AI adil dan inklusif membutuhkan tindakan di berbagai tahap pengembangan dan penerapan:

• Praktik Data yang Lebih Baik: Karena data bias adalah penyebab utama, meningkatkan kualitas data sangat penting. Ini berarti menggunakan dataset pelatihan yang beragam dan representatif yang mencakup kelompok minoritas, serta memeriksa secara ketat adanya ketidakseimbangan atau kekurangan.
  
  Ini juga melibatkan audit data untuk bias historis (misalnya hasil berbeda berdasarkan ras/gender) dan memperbaiki atau menyeimbangkan sebelum melatih model. Jika kelompok tertentu kurang terwakili, teknik seperti augmentasi data atau data sintetis dapat membantu.
  
  Penelitian NIST menunjukkan bahwa data pelatihan yang lebih beragam dapat menghasilkan hasil yang lebih adil dalam pengenalan wajah, misalnya. Pemantauan berkelanjutan terhadap keluaran AI juga dapat mendeteksi masalah bias sejak dini – apa yang diukur akan dikelola. Jika organisasi mengumpulkan data konkret tentang bagaimana keputusan algoritma bervariasi menurut demografi, mereka dapat mengidentifikasi pola tidak adil dan mengatasinya.

• Desain Algoritma yang Adil: Pengembang harus secara sadar mengintegrasikan kontraint keadilan dan teknik mitigasi bias ke dalam pelatihan model. Ini bisa termasuk menggunakan algoritma yang dapat disesuaikan untuk keadilan (bukan hanya akurasi), atau menerapkan teknik untuk menyamakan tingkat kesalahan antar kelompok.
  
  Saat ini ada alat dan kerangka kerja (banyak bersifat open-source) untuk menguji model terhadap bias dan menyesuaikannya – misalnya, pemberian bobot ulang data, mengubah ambang keputusan, atau menghapus fitur sensitif dengan cara yang bijaksana.
  
  Penting untuk diketahui, ada berbagai definisi matematis tentang keadilan (misalnya paritas prediksi yang setara, tingkat positif palsu yang setara, dll.), dan terkadang saling bertentangan. Memilih pendekatan keadilan yang tepat membutuhkan penilaian etis dan konteks, bukan sekadar penyesuaian data.
  
  Oleh karena itu, tim AI dianjurkan bekerja sama dengan ahli domain dan komunitas terdampak saat menentukan kriteria keadilan untuk aplikasi tertentu.

• Pengawasan dan Akuntabilitas Manusia: Tidak ada sistem AI yang boleh beroperasi tanpa akuntabilitas manusia. Pengawasan manusia sangat penting untuk menangkap dan memperbaiki bias yang mungkin dipelajari mesin.
  
  Ini berarti melibatkan manusia dalam proses pengambilan keputusan penting – misalnya perekrut yang meninjau kandidat yang disaring AI, atau hakim yang mempertimbangkan skor risiko AI dengan hati-hati.
  
  Ini juga berarti penetapan tanggung jawab yang jelas: organisasi harus ingat bahwa mereka bertanggung jawab atas keputusan yang dibuat oleh algoritma mereka sama seperti keputusan yang dibuat oleh karyawan. Audit rutin terhadap keputusan AI, penilaian dampak bias, dan kemampuan menjelaskan alasan AI (explainability) membantu menjaga akuntabilitas.
  
  Transparansi adalah pilar lain di sini: keterbukaan tentang cara kerja sistem AI dan keterbatasan yang diketahui dapat membangun kepercayaan dan memungkinkan pengawasan independen.
  
  Faktanya, beberapa yurisdiksi bergerak menuju kewajiban transparansi untuk keputusan algoritmik yang berdampak besar (misalnya, mewajibkan lembaga publik mengungkapkan bagaimana algoritma digunakan dalam keputusan yang memengaruhi warga). Tujuannya adalah memastikan AI mendukung pengambilan keputusan manusia tanpa menggantikan penilaian etis atau tanggung jawab hukum.

• Tim Beragam dan Pengembangan Inklusif: Semakin banyak ahli menekankan nilai keberagaman di antara pengembang dan pemangku kepentingan AI. Produk AI mencerminkan perspektif dan titik buta pembuatnya.
  
  Jadi, jika hanya kelompok homogen (misalnya satu gender, satu etnis, atau satu latar budaya) yang merancang sistem AI, mereka mungkin melewatkan bagaimana sistem itu bisa berdampak tidak adil pada orang lain.
  
  Menghadirkan suara beragam – termasuk perempuan, minoritas rasial, dan ahli dari ilmu sosial atau etika – dalam proses desain dan pengujian menghasilkan AI yang lebih peka budaya.
  
  UNESCO menunjukkan bahwa berdasarkan data terbaru, perempuan sangat kurang terwakili dalam peran AI (hanya sekitar 20% karyawan teknis AI dan 12% peneliti AI adalah perempuan). Meningkatkan representasi bukan hanya soal kesetaraan tempat kerja, tetapi juga memperbaiki hasil AI: jika sistem AI tidak dikembangkan oleh tim beragam, kemungkinan besar tidak akan memenuhi kebutuhan pengguna yang beragam atau melindungi hak semua orang.
  
  Inisiatif seperti platform UNESCO Women4Ethical AI bertujuan meningkatkan keberagaman dan berbagi praktik terbaik untuk desain AI yang tidak diskriminatif.

• Regulasi dan Pedoman Etika: Pemerintah dan badan internasional kini aktif memastikan bias AI ditangani. Pada 2021, negara anggota UNESCO secara bulat mengadopsi Rekomendasi tentang Etika Kecerdasan Buatan – kerangka kerja global pertama untuk etika AI.
  
  Rekomendasi ini menegaskan prinsip transparansi, keadilan, dan non-diskriminasi, serta menekankan pentingnya pengawasan manusia terhadap sistem AI. Prinsip-prinsip ini menjadi panduan bagi negara-negara dalam merancang kebijakan dan undang-undang terkait AI.
  
  Demikian pula, Undang-Undang AI Uni Eropa yang baru (akan berlaku penuh pada 2024) secara eksplisit menjadikan pencegahan bias sebagai prioritas. Salah satu tujuan utama Undang-Undang AI adalah mengurangi diskriminasi dan bias dalam sistem AI berisiko tinggi.
  
  Undang-undang ini akan mewajibkan sistem yang digunakan di area sensitif (seperti perekrutan, kredit, penegakan hukum, dll.) menjalani evaluasi ketat untuk keadilan dan tidak merugikan kelompok yang dilindungi secara tidak proporsional.
  
  Pelanggaran dapat berujung pada denda besar, menciptakan insentif kuat bagi perusahaan untuk membangun kontrol bias.
  
  Selain regulasi luas, beberapa pemerintah lokal telah mengambil tindakan khusus – misalnya, lebih dari selusin kota besar (termasuk San Francisco, Boston, dan Minneapolis) melarang penggunaan teknologi pengenalan wajah oleh polisi karena bias rasial yang terbukti dan risiko hak sipil.
  
  Di sisi industri, organisasi standar dan perusahaan teknologi menerbitkan pedoman serta mengembangkan alat (seperti toolkit keadilan dan kerangka audit) untuk membantu praktisi memasukkan etika dalam pengembangan AI.
  
  Gerakan menuju “AI yang Dapat Dipercaya” melibatkan kombinasi upaya ini, memastikan sistem AI legal, etis, dan tangguh dalam praktik.

>>> Apakah Anda ingin tahu:

Dampak AI terhadap Pekerjaan

AI dan bias algoritmik adalah tantangan global yang baru mulai kita tangani secara efektif. Contoh dan upaya di atas menunjukkan bahwa bias AI bukan masalah khusus – ini memengaruhi peluang ekonomi, keadilan, kesehatan, dan kohesi sosial di seluruh dunia.

Kabar baiknya adalah kesadaran meningkat tajam, dan konsensus muncul bahwa AI harus berpusat pada manusia dan adil.

Mencapai hal ini membutuhkan kewaspadaan terus-menerus: pengujian sistem AI secara berkala untuk bias, peningkatan data dan algoritma, melibatkan pemangku kepentingan beragam, dan memperbarui regulasi seiring perkembangan teknologi.

Pada intinya, memerangi bias algoritmik adalah tentang menyelaraskan AI dengan nilai-nilai kesetaraan dan keadilan kita. Seperti yang dikatakan Direktur Jenderal UNESCO Audrey Azoulay, bahkan “bias kecil dalam konten [AI] dapat secara signifikan memperkuat ketidaksetaraan di dunia nyata”.

Oleh karena itu, upaya menciptakan AI tanpa bias sangat penting untuk memastikan teknologi mengangkat semua lapisan masyarakat, bukan memperkuat prasangka lama.

Dengan memprioritaskan prinsip etika dalam desain AI – dan mendukungnya dengan tindakan dan kebijakan konkret – kita dapat memanfaatkan kekuatan inovasi AI sekaligus menjaga martabat manusia.

Jalan ke depan bagi AI adalah di mana mesin cerdas belajar dari nilai terbaik kemanusiaan, bukan bias terburuk kita, sehingga teknologi benar-benar memberi manfaat bagi semua orang.