Kecerdasan buatan telah membuka kekuatan untuk menciptakan “deepfake” – media yang sangat realistis namun palsu. Dari video yang mulus mengganti wajah seseorang hingga suara kloning yang terdengar tak bisa dibedakan dari aslinya, deepfake menandai era baru di mana melihat (atau mendengar) tidak selalu berarti percaya. Teknologi ini menawarkan peluang menarik untuk berinovasi di berbagai industri, namun juga membawa risiko serius.

Dalam artikel ini, kami akan menjelaskan apa itu AI deepfake, bagaimana cara kerjanya, serta peluang dan bahaya utama yang dibawanya di dunia saat ini.

Apa itu Deepfake?

Sebuah deepfake adalah media sintetis (video, audio, gambar, atau bahkan teks) yang dibuat atau diubah oleh AI untuk meniru konten asli secara meyakinkan. Istilah ini berasal dari “deep learning” (algoritma AI tingkat lanjut) dan “fake”, dan mulai populer sekitar tahun 2017 di forum Reddit tempat pengguna berbagi video selebriti dengan wajah yang ditukar.

Deepfake modern sering menggunakan teknik seperti generative adversarial networks (GANs) – dua jaringan saraf yang saling melatih untuk menghasilkan palsu yang semakin realistis. Dalam dekade terakhir, kemajuan AI membuat pembuatan deepfake menjadi lebih mudah dan murah: siapa saja dengan koneksi internet kini memiliki akses ke pembuat media sintetis.

Deepfake awal terkenal karena penggunaan jahat (seperti memasukkan wajah selebriti ke video palsu), sehingga teknologi ini mendapat reputasi negatif. Namun, tidak semua konten sintetis yang dihasilkan AI bersifat merugikan. Seperti banyak teknologi lainnya, deepfake adalah alat – dampaknya (baik atau buruk) tergantung pada cara penggunaannya.

Seperti yang dicatat oleh World Economic Forum, meskipun ada banyak contoh negatif, “konten sintetis semacam ini juga dapat membawa manfaat.” Di bagian berikut, kami akan membahas beberapa aplikasi positif deepfake AI yang menonjol, diikuti oleh risiko dan penyalahgunaan serius yang terkait dengan teknologi ini.

Peluang dan Aplikasi Positif Deepfake AI

Meski reputasinya kontroversial, deepfake (yang sering disebut secara netral sebagai “media sintetis”) menawarkan beberapa aplikasi positif di bidang kreatif, pendidikan, dan kemanusiaan:

• Hiburan dan Media: Para pembuat film menggunakan teknik deepfake untuk menciptakan efek visual menakjubkan dan bahkan “menghilangkan usia” aktor di layar. Misalnya, film Indiana Jones terbaru secara digital merekonstruksi Harrison Ford muda dengan melatih AI menggunakan rekaman puluhan tahun lalu. Teknologi ini dapat menghidupkan kembali tokoh sejarah atau aktor yang telah meninggal untuk penampilan baru dan meningkatkan dubbing dengan mencocokkan gerakan bibir secara akurat.
  Secara keseluruhan, deepfake dapat menghasilkan konten yang lebih imersif dan realistis dalam film, televisi, dan permainan.

• Pendidikan dan Pelatihan: Teknologi deepfake dapat membuat pengalaman belajar lebih menarik dan interaktif. Pengajar dapat membuat simulasi edukasi atau rekonstruksi sejarah dengan tokoh nyata yang hidup, membawa pelajaran sejarah atau sains menjadi lebih hidup.
  Skenario peran realistis yang dibuat AI (misalnya, simulasi keadaan darurat medis atau skenario kokpit pesawat) dapat membantu melatih profesional di bidang kesehatan, penerbangan, militer, dan lainnya. Simulasi ini mempersiapkan peserta didik menghadapi situasi nyata dengan cara yang aman dan terkontrol.

• Aksesibilitas dan Komunikasi: Media yang dihasilkan AI memecahkan hambatan bahasa dan komunikasi. Penerjemah deepfake dapat mendubbing video ke berbagai bahasa sambil mempertahankan suara dan gaya bicara pembicara – seorang seniman, FKA Twigs, bahkan membuat deepfake dirinya sendiri yang berbicara dalam bahasa yang tidak dia kuasai. Ini memiliki potensi menyelamatkan nyawa: layanan darurat menggunakan terjemahan suara AI untuk menginterpretasi panggilan 911 lebih cepat, mengurangi waktu terjemahan hingga 70% dalam situasi kritis.
  Demikian pula, avatar bahasa isyarat berbasis deepfake sedang dikembangkan untuk menerjemahkan ucapan ke bahasa isyarat bagi penonton tunarungu, menghasilkan video isyarat yang sangat realistis sehingga algoritma awalnya tidak bisa membedakannya dari penanda manusia asli. Penggunaan penting lainnya adalah kloning suara pribadi bagi mereka yang kehilangan kemampuan bicara – misalnya, seorang anggota Kongres AS dengan penyakit neurodegeneratif baru-baru ini menggunakan klon suara AI-nya sendiri untuk berbicara kepada para legislator setelah ia tidak bisa berbicara, memungkinkan dia “berbicara dengan nada suaranya sendiri” meskipun sakit.
  Aplikasi ini menunjukkan bagaimana deepfake meningkatkan aksesibilitas dan melestarikan suara serta komunikasi individu.

• Kesehatan dan Terapi: Dalam bidang medis, media sintetis dapat membantu riset dan kesejahteraan pasien. Gambar medis yang dihasilkan AI dapat menambah data pelatihan untuk algoritma diagnostik – sebuah studi menemukan bahwa sistem AI untuk deteksi tumor yang sebagian besar dilatih dengan gambar MRI hasil GAN bekerja sebaik sistem yang dilatih dengan pemindaian asli. Ini berarti deepfake dapat meningkatkan AI medis dengan menciptakan data pelatihan melimpah tanpa mengorbankan privasi pasien.
  Dari sisi terapi, deepfake yang dikendalikan juga dapat menenangkan pasien. Misalnya, pengasuh telah bereksperimen membuat video di mana orang terkasih pasien Alzheimer muncul sebagai versi muda mereka (dari masa yang paling diingat pasien), mengurangi kebingungan dan kecemasan pasien. Dalam kampanye kesehatan masyarakat, teknik deepfake memungkinkan pesan yang kuat: dalam kampanye anti-malaria, pesan video bintang sepak bola David Beckham dimodifikasi AI sehingga “dia” berbicara dalam sembilan bahasa berbeda, membantu kampanye kesadaran menjangkau setengah miliar orang di seluruh dunia. Ini menunjukkan bagaimana media sintetis dapat memperkuat pesan penting ke audiens beragam.

• Privasi dan Anonimitas: Ironisnya, kemampuan pertukaran wajah yang sama yang dapat menciptakan berita palsu juga dapat melindungi privasi. Aktivis, pelapor, atau individu rentan dapat direkam dengan wajah mereka diganti oleh wajah realistis yang dihasilkan AI, menyembunyikan identitas tanpa harus menggunakan blur yang jelas.
  Contoh penting adalah film dokumenter “Welcome to Chechnya” (2020), yang menggunakan overlay wajah AI untuk menyamarkan identitas aktivis LGBT yang melarikan diri dari penganiayaan sambil mempertahankan ekspresi dan emosi wajah mereka. Dengan cara ini, penonton dapat terhubung dengan kemanusiaan subjek, meskipun wajah yang ditampilkan bukan asli.
  Para peneliti mengembangkan ide ini menjadi alat untuk privasi sehari-hari – misalnya, sistem “anonimisasi” eksperimental dapat secara otomatis mengganti wajah seseorang dalam foto yang dibagikan di media sosial dengan tampilan sintetis serupa jika mereka belum memberikan izin untuk diidentifikasi. Demikian pula, teknologi “skin suara” dapat mengubah suara pembicara secara real-time (seperti dalam permainan daring atau rapat virtual) untuk mencegah bias atau pelecehan sambil tetap menyampaikan emosi dan maksud asli.
  Aplikasi ini menunjukkan bahwa deepfake dapat membantu individu mengendalikan identitas digital dan keamanan mereka.

Deepfake pertukaran wajah dapat digunakan untuk menganonimkan individu. Misalnya, film Welcome to Chechnya melindungi aktivis yang berisiko dengan menimpa wajah mereka dengan wajah aktor sukarelawan melalui AI, menyembunyikan identitas sambil mempertahankan ekspresi alami. Ini menunjukkan bagaimana media sintetis dapat menjaga privasi dalam situasi sensitif.

Singkatnya, deepfake adalah pedang bermata dua. Di satu sisi, “konten sintetis tidak secara inheren positif atau negatif – dampaknya tergantung pada pelaku dan niatnya”. Contoh di atas menyoroti peluang untuk memanfaatkan teknologi deepfake demi kreativitas, komunikasi, dan kebaikan sosial.

Namun, sisi gelap alat yang kuat ini adalah potensi besar untuk merugikan jika digunakan secara jahat. Beberapa tahun terakhir memberikan banyak kisah peringatan tentang penipuan dan penyalahgunaan yang didorong oleh deepfake, yang akan kami bahas berikutnya.

Risiko dan Penyalahgunaan Deepfake

Meningkatnya kemudahan pembuatan deepfake juga memicu kekhawatiran dan ancaman serius. Faktanya, survei tahun 2023 menemukan bahwa 60% warga Amerika “sangat khawatir” tentang deepfake – menjadikannya ketakutan nomor satu terkait AI. Risiko utama yang terkait dengan teknologi deepfake meliputi:

• Misinformasi dan Manipulasi Politik: Deepfake dapat digunakan sebagai senjata untuk menyebarkan disinformasi secara masif. Video atau audio palsu tokoh publik dapat menampilkan mereka mengatakan atau melakukan hal yang tidak pernah terjadi, menipu publik. Kebohongan semacam ini dapat merusak kepercayaan pada institusi, mempengaruhi opini publik, atau bahkan memicu kerusuhan.

  Misalnya, selama perang Rusia di Ukraina, sebuah video deepfake beredar yang menunjukkan Presiden Volodymyr Zelensky seolah menyerah; meskipun cepat dibantah karena cacat yang jelas (seperti kepala yang terlalu besar dan suara aneh), video ini menunjukkan potensi musuh menggunakan palsu AI dalam propaganda.
  Demikian pula, gambar palsu ledakan dekat Pentagon viral pada 2023 dan menyebabkan penurunan pasar saham sementara sebelum pihak berwenang mengklarifikasi bahwa itu dihasilkan AI.

  Seiring kemajuan deepfake, kekhawatiran muncul bahwa mereka dapat digunakan untuk membuat berita palsu yang sangat meyakinkan, mengikis kemampuan publik membedakan kenyataan dari rekayasa. Ini tidak hanya menyebarkan kebohongan tetapi juga menciptakan efek “dividen pembohong” yang menakutkan – orang mungkin mulai meragukan video atau bukti asli dengan alasan itu deepfake. Akibatnya adalah erosi kebenaran dan hilangnya kepercayaan pada media dan diskursus demokratis.

• Pornografi Non-Konsensual dan Pelecehan: Salah satu penggunaan jahat paling awal dan meluas dari deepfake adalah pembuatan konten eksplisit palsu. Dengan beberapa foto, pelaku (sering melalui forum anonim atau aplikasi) dapat membuat video pornografi realistis dari individu – biasanya menargetkan perempuan – tanpa izin mereka. Ini merupakan pelanggaran privasi dan pelecehan seksual yang serius.

  Studi menemukan bahwa mayoritas besar video deepfake online (sekitar 90–95%) adalah pornografi non-konsensual, hampir semuanya menampilkan korban perempuan. Video palsu semacam ini dapat menghancurkan secara pribadi, menyebabkan penghinaan, trauma, kerusakan reputasi, dan bahkan ancaman pemerasan. Aktris terkenal, jurnalis, dan individu biasa pernah mendapati wajah mereka ditempelkan pada konten dewasa.

  Penegak hukum dan pembuat kebijakan semakin prihatin dengan tren ini; misalnya, di AS, beberapa negara bagian dan pemerintah federal telah mengusulkan atau mengesahkan undang-undang untuk mengkriminalisasi pornografi deepfake dan memberikan jalur hukum bagi korban. Bahaya pornografi deepfake menegaskan bagaimana teknologi ini dapat disalahgunakan untuk melanggar privasi, menargetkan individu (sering dengan bias anti-perempuan), dan menyebarkan gambar palsu yang mencemarkan nama baik dengan biaya rendah bagi pelaku.

• Penipuan dan Penyamaran: Deepfake telah menjadi senjata berbahaya baru bagi penjahat siber. Klon suara AI dan bahkan video deepfake langsung digunakan untuk menyamar sebagai orang terpercaya demi keuntungan penipuan. FBI memperingatkan bahwa penjahat memanfaatkan kloning suara/video AI untuk menyamar sebagai anggota keluarga, rekan kerja, atau eksekutif – menipu korban agar mengirim uang atau mengungkap informasi sensitif.

  Penipuan ini, yang sering merupakan versi canggih dari penipuan “penyamaran”, telah menyebabkan kerugian besar. Dalam satu kasus nyata, pencuri menggunakan AI untuk meniru suara CEO dan berhasil meyakinkan seorang karyawan mengirimkan €220.000 (sekitar $240.000). Dalam insiden lain, pelaku deepfake video CFO perusahaan dalam panggilan Zoom untuk mengotorisasi transfer $25 juta ke rekening palsu.

  Serangan rekayasa sosial berbasis deepfake semakin meningkat – laporan menunjukkan lonjakan besar penipuan deepfake secara global dalam beberapa tahun terakhir. Kombinasi suara/video palsu yang sangat meyakinkan dan kecepatan komunikasi digital dapat mengejutkan korban. Bisnis sangat rentan terhadap “penipuan CEO” atau eksekutif palsu yang memberi perintah.

  Jika karyawan tidak dilatih untuk skeptis terhadap media audiovisual, mereka mungkin mengikuti instruksi deepfake yang tampak sah. Akibatnya bisa berupa pencurian dana, pelanggaran data, atau kerusakan mahal lainnya. Ancaman ini mendorong para ahli keamanan untuk menguatkan praktik verifikasi identitas (misalnya, menggunakan saluran aman untuk mengonfirmasi permintaan) dan alat deteksi teknis untuk mengautentikasi audio dan video dalam transaksi sensitif.

• Pengikisan Kepercayaan dan Tantangan Hukum: Munculnya deepfake mengaburkan batas antara kenyataan dan fiksi, menimbulkan keprihatinan sosial dan etika yang luas. Saat konten palsu semakin meyakinkan, orang mungkin mulai meragukan bukti asli – skenario berbahaya bagi keadilan dan kepercayaan publik.

  Misalnya, video nyata tentang kesalahan bisa dianggap sebagai “deepfake” oleh pelaku, mempersulit jurnalisme dan proses hukum. Pengikisan kepercayaan pada media digital ini sulit diukur, namun sangat merusak dalam jangka panjang.

  Deepfake juga menghadirkan masalah hukum rumit: Siapa pemilik hak atas kemiripan seseorang yang dihasilkan AI? Bagaimana hukum pencemaran nama baik berlaku pada video palsu yang merusak reputasi? Ada juga pertanyaan izin dan etika – menggunakan wajah atau suara seseorang dalam deepfake tanpa izin umumnya dianggap pelanggaran hak, namun hukum masih berusaha mengejar perkembangan ini.

  Beberapa yurisdiksi mulai mewajibkan media yang diubah diberi label jelas, terutama jika digunakan dalam iklan politik atau pemilu. Selain itu, platform seperti jejaring sosial mendapat tekanan untuk mendeteksi dan menghapus deepfake berbahaya (mirip dengan cara mereka menangani disinformasi atau media yang dimanipulasi lainnya).

  Dari sisi teknologi, deteksi deepfake adalah “perlombaan senjata”. Peneliti membangun sistem AI untuk mendeteksi artefak halus dari kepalsuan (misalnya, anomali aliran darah wajah atau pola berkedip). Namun, seiring deteksi membaik, metode deepfake juga berkembang untuk menghindarinya – menciptakan pertarungan kucing dan tikus yang terus-menerus.

  Semua tantangan ini menunjukkan bahwa masyarakat harus berupaya bagaimana memverifikasi media secara autentik di era AI dan bagaimana menuntut pertanggungjawaban pembuat deepfake atas penyalahgunaan.

Menavigasi Era Deepfake: Menemukan Keseimbangan

AI deepfake menghadirkan dilema klasik kemajuan teknologi: janji besar yang beriringan dengan bahaya. Di satu sisi, kita memiliki penggunaan kreatif dan bermanfaat yang belum pernah terjadi sebelumnya – dari melestarikan suara dan menerjemahkan bahasa hingga membayangkan bentuk baru bercerita dan melindungi privasi.

Di sisi lain, penggunaan jahat deepfake mengancam privasi, keamanan, dan kepercayaan publik. Ke depan, sangat penting untuk memaksimalkan manfaat sambil meminimalkan kerugian.

Upaya sedang dilakukan di berbagai bidang. Perusahaan teknologi dan peneliti berinvestasi dalam alat deteksi dan kerangka kerja keaslian (seperti watermark digital atau standar verifikasi konten) untuk membantu orang membedakan media asli dan palsu. Pembuat kebijakan di seluruh dunia juga mengeksplorasi regulasi untuk membatasi praktik deepfake yang paling merugikan – misalnya, melarang pornografi palsu, disinformasi pemilu, atau mewajibkan pengungkapan saat media telah diubah oleh AI.

Namun, regulasi saja sulit diterapkan mengingat cepatnya perkembangan teknologi dan mudahnya lintas yurisdiksi. Pendidikan dan kesadaran sama pentingnya: program literasi digital dapat mengajarkan publik cara mengevaluasi media secara kritis dan mengenali tanda-tanda deepfake, seperti halnya orang belajar mengenali penipuan email atau phishing.

Jika pengguna tahu bahwa rekaman “sempurna” atau sensasional mungkin dibuat-buat, mereka dapat mempertimbangkannya sebelum bereaksi atau membagikan.

>>> Klik untuk mengetahui lebih lanjut:

Peran AI dalam era digital

Masalah keamanan data dan AI

Pada akhirnya, fenomena deepfake akan terus ada – “jin sudah keluar dari botol dan kita tidak bisa memasukkannya kembali”. Alih-alih panik atau melarang total, para ahli menganjurkan pendekatan seimbang: mendorong inovasi bertanggung jawab dalam media sintetis sambil mengembangkan pengaman yang kuat untuk mencegah penyalahgunaan.

Ini berarti mendukung aplikasi positif (dalam hiburan, pendidikan, aksesibilitas, dll.) dengan pedoman etis, dan sekaligus berinvestasi dalam langkah keamanan, kerangka hukum, dan norma untuk menghukum penggunaan jahat. Dengan bekerja sama – teknolog, regulator, perusahaan, dan warga – kita dapat membangun masa depan di mana AI deepfake menjadi “biasa, akrab, dan dapat dipercaya”. Di masa depan seperti itu, kita memanfaatkan kreativitas dan kemudahan yang ditawarkan deepfake, sambil tetap waspada dan tangguh terhadap bentuk penipuan baru yang mereka ciptakan.

Peluang sangat menarik, dan risikonya nyata – mengenali keduanya adalah langkah pertama dalam membentuk lanskap media yang didorong AI yang memberi manfaat bagi masyarakat secara keseluruhan.