Trí tuệ nhân tạo đã mở ra khả năng tạo ra “deepfake” – những phương tiện truyền thông giả mạo nhưng cực kỳ chân thực. Từ các video thay đổi khuôn mặt một cách liền mạch đến giọng nói nhân bản không thể phân biệt với người thật, deepfake đánh dấu một kỷ nguyên mới nơi việc nhìn thấy (hoặc nghe thấy) không còn đồng nghĩa với việc tin tưởng. Công nghệ này mang đến nhiều cơ hội đổi mới trong các ngành công nghiệp, nhưng cũng tiềm ẩn những rủi ro nghiêm trọng.

Trong bài viết này, chúng ta sẽ tìm hiểu deepfake AI là gì, cách thức hoạt động và những cơ hội cũng như nguy cơ chính mà nó mang lại trong thế giới ngày nay.

Deepfake là gì?

Một deepfake là một sản phẩm truyền thông tổng hợp (video, âm thanh, hình ảnh hoặc thậm chí văn bản) được tạo ra hoặc chỉnh sửa bởi AI nhằm mô phỏng nội dung thật một cách thuyết phục. Thuật ngữ này xuất phát từ “deep learning” (thuật toán AI tiên tiến) và “fake”, và bắt đầu phổ biến từ khoảng năm 2017 trên một diễn đàn Reddit, nơi người dùng chia sẻ các video hoán đổi khuôn mặt người nổi tiếng.

Deepfake hiện đại thường sử dụng các kỹ thuật như mạng đối kháng sinh tạo (GANs) – hai mạng nơ-ron cạnh tranh với nhau để tạo ra các sản phẩm giả ngày càng chân thực hơn. Trong thập kỷ qua, tiến bộ trong AI đã giúp việc tạo deepfake trở nên dễ dàng và tiết kiệm hơn: mọi người có kết nối internet giờ đây đều có “chìa khóa” để tạo ra phương tiện tổng hợp.

Những deepfake đầu tiên nổi tiếng với các mục đích xấu (như chèn khuôn mặt người nổi tiếng vào video giả), khiến công nghệ này bị đánh giá tiêu cực. Tuy nhiên, không phải tất cả nội dung tổng hợp do AI tạo ra đều xấu. Giống như nhiều công nghệ khác, deepfake là một công cụ – tác động của nó (tốt hay xấu) phụ thuộc vào cách sử dụng.

Như Diễn đàn Kinh tế Thế giới đã lưu ý, mặc dù có nhiều ví dụ tiêu cực, “nội dung tổng hợp như vậy cũng có thể mang lại lợi ích.” Trong các phần tiếp theo, chúng ta sẽ khám phá một số ứng dụng tích cực nổi bật của deepfake AI, cùng với những rủi ro và lạm dụng nghiêm trọng liên quan đến công nghệ này.

Cơ Hội và Ứng Dụng Tích Cực của Deepfake AI

Mặc dù có tiếng xấu, deepfake (thường được gọi trung tính hơn là “phương tiện tổng hợp”) mang lại nhiều ứng dụng tích cực trong các lĩnh vực sáng tạo, giáo dục và nhân đạo:

• Giải trí và Truyền thông: Các nhà làm phim sử dụng kỹ thuật deepfake để tạo hiệu ứng hình ảnh ấn tượng và thậm chí “trẻ hóa” diễn viên trên màn ảnh. Ví dụ, bộ phim Indiana Jones mới nhất đã tái tạo kỹ thuật số hình ảnh trẻ hơn của Harrison Ford bằng cách huấn luyện AI trên hàng thập kỷ tư liệu cũ của ông. Công nghệ này có thể hồi sinh các nhân vật lịch sử hoặc diễn viên đã khuất cho các màn trình diễn mới và cải thiện lồng tiếng bằng cách khớp chính xác chuyển động môi.
  Tổng thể, deepfake giúp tạo ra nội dung sống động và chân thực hơn trong phim ảnh, truyền hình và trò chơi.

• Giáo dục và Đào tạo: Công nghệ deepfake có thể làm cho trải nghiệm học tập trở nên hấp dẫn và tương tác hơn. Giảng viên có thể tạo ra các mô phỏng giáo dục hoặc tái hiện lịch sử với các nhân vật sống động của người nổi tiếng, giúp bài học lịch sử hoặc khoa học trở nên sinh động.
  Các kịch bản nhập vai chân thực do AI tạo ra (ví dụ, mô phỏng tình huống cấp cứu y tế hoặc buồng lái máy bay) giúp đào tạo chuyên gia trong y tế, hàng không, quân đội và nhiều lĩnh vực khác. Những mô phỏng này chuẩn bị cho người học đối mặt với tình huống thực tế một cách an toàn và kiểm soát.

• Khả năng tiếp cận và Giao tiếp: Phương tiện do AI tạo đang phá vỡ rào cản ngôn ngữ và giao tiếp. Trình dịch deepfake có thể lồng tiếng video sang nhiều ngôn ngữ khác nhau trong khi vẫn giữ nguyên giọng nói và cử chỉ của người nói – một nghệ sĩ, FKA Twigs, thậm chí đã tạo ra một deepfake của chính mình nói những ngôn ngữ mà cô không biết. Điều này có tiềm năng cứu sống: dịch vụ khẩn cấp đã sử dụng dịch giọng AI để phiên dịch các cuộc gọi 911 nhanh hơn, giảm thời gian dịch đến 70% trong các tình huống cấp bách.
  Tương tự, các avatar ngôn ngữ ký hiệu do deepfake điều khiển đang được phát triển để dịch lời nói sang ngôn ngữ ký hiệu cho người khiếm thính, tạo ra các video ký hiệu chân thực đến mức các thuật toán trong các nghiên cứu ban đầu không thể phân biệt với người ký thực sự. Một ứng dụng có tác động khác là nhân bản giọng nói cá nhân cho những người mất khả năng nói – ví dụ, một nữ nghị sĩ Mỹ mắc bệnh thoái hóa thần kinh gần đây đã sử dụng bản sao giọng nói do AI tạo để phát biểu trước các nhà lập pháp sau khi không thể nói được, cho phép bà “nói bằng giọng nói của chính mình” mặc dù bị bệnh.
  Những ứng dụng này cho thấy deepfake cải thiện khả năng tiếp cận và bảo tồn giọng nói, giao tiếp của con người.

• Y tế và Trị liệu: Trong y học, phương tiện tổng hợp có thể hỗ trợ cả nghiên cứu và sức khỏe bệnh nhân. Hình ảnh y tế do AI tạo có thể bổ sung dữ liệu đào tạo cho các thuật toán chẩn đoán – một nghiên cứu cho thấy hệ thống AI phát hiện khối u được huấn luyện chủ yếu trên ảnh MRI do GAN tạo ra hoạt động tương đương với hệ thống được huấn luyện trên ảnh thật. Điều này có nghĩa deepfake có thể nâng cao AI y tế bằng cách tạo ra dữ liệu đào tạo dồi dào mà không làm ảnh hưởng đến quyền riêng tư bệnh nhân.
  Về mặt trị liệu, deepfake được kiểm soát cũng có thể an ủi bệnh nhân. Ví dụ, các nhân viên chăm sóc đã thử tạo video trong đó người thân của bệnh nhân Alzheimer xuất hiện dưới hình ảnh trẻ hơn (từ thời kỳ mà bệnh nhân nhớ rõ nhất), giúp giảm bớt sự bối rối và lo lắng của bệnh nhân. Trong các chiến dịch y tế công cộng, kỹ thuật deepfake đã giúp truyền tải thông điệp mạnh mẽ: trong một chiến dịch chống sốt rét, video của ngôi sao bóng đá David Beckham được chỉnh sửa bằng AI để “anh ấy” nói bằng chín ngôn ngữ khác nhau, giúp chiến dịch tiếp cận hơn nửa tỷ người trên toàn cầu. Điều này cho thấy phương tiện tổng hợp có thể khuếch đại thông điệp quan trọng đến nhiều đối tượng khác nhau.

• Quyền riêng tư và Ẩn danh: Mâu thuẫn thay, khả năng hoán đổi khuôn mặt cũng có thể bảo vệ quyền riêng tư. Các nhà hoạt động, người tố giác hoặc cá nhân dễ bị tổn thương có thể được quay phim với khuôn mặt được thay thế bằng khuôn mặt do AI tạo ra một cách chân thực, che giấu danh tính mà không cần làm mờ rõ ràng.
  Một ví dụ nổi bật là phim tài liệu “Welcome to Chechnya” (2020), sử dụng lớp phủ khuôn mặt do AI tạo để che giấu danh tính các nhà hoạt động LGBT đang chạy trốn sự đàn áp trong khi vẫn giữ nguyên biểu cảm và cảm xúc trên khuôn mặt họ. Nhờ đó, người xem vẫn có thể cảm nhận được nhân tính của nhân vật, dù khuôn mặt hiển thị không phải thật.
  Các nhà nghiên cứu đang mở rộng ý tưởng này thành các công cụ bảo vệ quyền riêng tư hàng ngày – ví dụ, các hệ thống ẩn danh thử nghiệm có thể tự động thay thế khuôn mặt người trong ảnh chia sẻ trên mạng xã hội bằng một khuôn mặt tổng hợp tương tự nếu họ chưa đồng ý bị nhận diện. Tương tự, công nghệ “lớp giọng” có thể thay đổi giọng nói người nói theo thời gian thực (như trong trò chơi trực tuyến hoặc họp ảo) để tránh định kiến hoặc quấy rối trong khi vẫn truyền tải cảm xúc và ý định gốc.
  Những ứng dụng này cho thấy deepfake có thể giúp cá nhân kiểm soát danh tính và an toàn số của mình.

Việc hoán đổi khuôn mặt bằng deepfake có thể được dùng để ẩn danh cá nhân. Ví dụ, phim Welcome to Chechnya đã bảo vệ các nhà hoạt động có nguy cơ bằng cách phủ khuôn mặt họ bằng khuôn mặt diễn viên tình nguyện qua AI, che giấu danh tính trong khi vẫn giữ biểu cảm tự nhiên. Điều này chứng minh phương tiện tổng hợp có thể bảo vệ quyền riêng tư trong các tình huống nhạy cảm.

Tóm lại, deepfake là con dao hai lưỡi. Một mặt, “nội dung tổng hợp không tự thân là tích cực hay tiêu cực – tác động phụ thuộc vào người sử dụng và mục đích của họ”. Các ví dụ trên làm nổi bật cơ hội tận dụng công nghệ deepfake cho sáng tạo, giao tiếp và lợi ích xã hội.

Tuy nhiên, mặt trái của công cụ mạnh mẽ này là tiềm năng gây hại lớn khi bị sử dụng với mục đích xấu. Những năm gần đây đã có nhiều câu chuyện cảnh báo về sự lừa đảo và lạm dụng do deepfake gây ra, mà chúng ta sẽ xem xét tiếp theo.

Rủi Ro và Lạm Dụng Deepfake

Sự lan rộng của deepfake dễ tạo cũng đã gây ra nhiều lo ngại và đe dọa nghiêm trọng. Thực tế, một khảo sát năm 2023 cho thấy 60% người Mỹ “rất lo ngại” về deepfake – xếp nó là nỗi sợ hãi hàng đầu liên quan đến AI. Các rủi ro chính liên quan đến công nghệ deepfake bao gồm:

• Thông tin sai lệch và thao túng chính trị: Deepfake có thể bị lợi dụng để lan truyền thông tin giả trên quy mô lớn. Video hoặc âm thanh giả mạo các nhân vật công chúng có thể cho thấy họ nói hoặc làm những điều chưa từng xảy ra, đánh lừa công chúng. Những điều sai lệch này có thể làm suy giảm niềm tin vào các tổ chức, ảnh hưởng đến dư luận hoặc thậm chí kích động bất ổn.

  Ví dụ, trong cuộc chiến của Nga ở Ukraine, một video deepfake lan truyền cho thấy Tổng thống Volodymyr Zelensky có vẻ đầu hàng; dù nhanh chóng bị bác bỏ do các lỗi nhận biết (như đầu quá to và giọng nói lạ), nó cho thấy tiềm năng kẻ thù sử dụng AI để tuyên truyền.
  Tương tự, một hình ảnh giả về “vụ nổ” gần Lầu Năm Góc đã lan truyền năm 2023 và gây sụt giảm thị trường chứng khoán tạm thời trước khi chính quyền xác nhận đó là sản phẩm AI.

  Khi deepfake ngày càng tinh vi, nỗi lo là chúng có thể tạo ra tin giả cực kỳ thuyết phục, làm giảm khả năng phân biệt thực tế và giả mạo của công chúng. Điều này không chỉ lan truyền dối trá mà còn tạo ra hiệu ứng “lợi ích của kẻ nói dối” – người ta có thể bắt đầu nghi ngờ cả những video hoặc bằng chứng thật, cho rằng đó là deepfake. Kết quả chung là sự suy giảm sự thật và mất niềm tin vào truyền thông cũng như diễn đàn dân chủ.

• Phim khiêu dâm không đồng thuận và quấy rối: Một trong những ứng dụng độc hại đầu tiên và phổ biến nhất của deepfake là tạo nội dung khiêu dâm giả. Chỉ với vài bức ảnh, kẻ tấn công (thường qua các diễn đàn hoặc ứng dụng ẩn danh) có thể tạo ra video khiêu dâm chân thực của cá nhân – thường nhắm vào phụ nữ – mà không có sự đồng ý của họ. Đây là một hình thức vi phạm quyền riêng tư nghiêm trọng và quấy rối tình dục.

  Nghiên cứu cho thấy phần lớn video deepfake trên mạng (khoảng 90–95%) là phim khiêu dâm không đồng thuận, hầu hết nạn nhân là phụ nữ. Những video giả này có thể gây tổn thương nghiêm trọng về mặt cá nhân, gây xấu hổ, sang chấn tâm lý, tổn hại danh tiếng và thậm chí đe dọa tống tiền. Nhiều nữ diễn viên nổi tiếng, nhà báo và cả cá nhân bình thường đã bị dán khuôn mặt lên nội dung người lớn.

  Cơ quan thực thi pháp luật và nhà làm chính sách ngày càng lo ngại về xu hướng này; ví dụ, tại Mỹ, một số bang và chính phủ liên bang đã đề xuất hoặc ban hành luật hình sự hóa phim khiêu dâm deepfake và tạo điều kiện pháp lý cho nạn nhân. Tác hại của phim khiêu dâm deepfake nhấn mạnh cách công nghệ này có thể bị lợi dụng để vi phạm quyền riêng tư, nhắm mục tiêu cá nhân (thường có định kiến chống phụ nữ) và lan truyền hình ảnh giả mang tính phỉ báng với chi phí thấp cho kẻ phạm tội.

• Lừa đảo và mạo danh: Deepfake đã trở thành vũ khí nguy hiểm mới cho tội phạm mạng. Bản sao giọng nói do AI tạo và thậm chí video deepfake trực tiếp được dùng để mạo danh người đáng tin cậy nhằm trục lợi. FBI cảnh báo tội phạm đang tận dụng việc nhân bản giọng nói/video AI để giả danh người thân, đồng nghiệp hoặc lãnh đạo – lừa nạn nhân chuyển tiền hoặc tiết lộ thông tin nhạy cảm.

  Những vụ lừa đảo này, thường là biến thể công nghệ cao của lừa đảo “mạo danh”, đã gây thiệt hại lớn. Trong một vụ thực tế, kẻ trộm dùng AI giả giọng CEO và thuyết phục thành công nhân viên chuyển khoản 220.000 euro (khoảng 240.000 USD). Trong một vụ khác, tội phạm deepfake xuất hiện video CFO công ty trong cuộc gọi Zoom để phê duyệt chuyển 25 triệu USD vào tài khoản giả mạo.

  Các cuộc tấn công kỹ thuật xã hội dựa trên deepfake đang gia tăng – báo cáo cho thấy sự bùng nổ lừa đảo deepfake toàn cầu trong vài năm gần đây. Sự kết hợp giữa giọng nói/video giả mạo thuyết phục và tốc độ giao tiếp số có thể khiến nạn nhân bị bất ngờ. Doanh nghiệp đặc biệt dễ bị tổn thương trước các vụ “lừa đảo CEO” hoặc giả mạo lãnh đạo ra lệnh.

  Nếu nhân viên không được đào tạo để nghi ngờ các phương tiện nghe nhìn, họ có thể làm theo chỉ dẫn deepfake có vẻ hợp pháp. Hậu quả có thể là mất tiền, rò rỉ dữ liệu hoặc thiệt hại lớn khác. Mối đe dọa này khiến chuyên gia an ninh kêu gọi tăng cường xác thực danh tính (ví dụ, dùng kênh an toàn để xác nhận yêu cầu) và công cụ kỹ thuật để kiểm tra tính xác thực âm thanh, video trong các giao dịch nhạy cảm.

• Suy giảm niềm tin và thách thức pháp lý: Sự xuất hiện của deepfake làm mờ ranh giới giữa thực và giả, đặt ra nhiều vấn đề xã hội và đạo đức rộng lớn. Khi nội dung giả ngày càng thuyết phục, người ta có thể bắt đầu nghi ngờ bằng chứng thật – một kịch bản nguy hiểm cho công lý và niềm tin công chúng.

  Ví dụ, một video thật về hành vi sai trái có thể bị kẻ phạm tội bác bỏ là “deepfake”, gây khó khăn cho báo chí và thủ tục pháp lý. Sự suy giảm niềm tin vào truyền thông số rất khó đo lường nhưng gây tổn hại lâu dài.

  Deepfake cũng đặt ra các vấn đề pháp lý phức tạp: Ai sở hữu quyền hình ảnh do AI tạo của một người? Luật phỉ báng áp dụng thế nào với video giả làm tổn hại danh tiếng? Còn có các câu hỏi về đồng thuận và đạo đức – việc sử dụng khuôn mặt hoặc giọng nói ai đó trong deepfake mà không được phép thường bị coi là vi phạm quyền, nhưng luật pháp vẫn đang dần hoàn thiện để bắt kịp thực tế này.

  Một số khu vực pháp lý đã bắt đầu yêu cầu các phương tiện bị chỉnh sửa phải được gắn nhãn rõ ràng, đặc biệt khi dùng trong quảng cáo chính trị hoặc bầu cử. Ngoài ra, các nền tảng mạng xã hội đang chịu áp lực phát hiện và gỡ bỏ deepfake độc hại (tương tự cách xử lý các dạng thông tin sai lệch hoặc nội dung bị thao túng khác).

  Về mặt công nghệ, việc phát hiện deepfake là một “cuộc đua vũ trang”. Các nhà nghiên cứu đang xây dựng hệ thống AI để phát hiện các dấu hiệu giả mạo tinh vi (ví dụ, bất thường trong lưu lượng máu trên khuôn mặt hoặc nháy mắt). Tuy nhiên, khi công nghệ phát hiện tiến bộ, các phương pháp deepfake cũng ngày càng tinh vi để né tránh – dẫn đến cuộc đua không ngừng nghỉ.

  Tất cả những thách thức này cho thấy xã hội cần phải tìm cách xác thực phương tiện truyền thông một cách chân thực trong thời đại AI và làm sao để buộc người tạo deepfake chịu trách nhiệm khi lạm dụng.

Điều Hướng Kỷ Nguyên Deepfake: Tìm Cân Bằng

Deepfake AI đặt ra một bài toán kinh điển của tiến bộ công nghệ: hứa hẹn to lớn đi kèm với nguy cơ. Một mặt, chúng ta có những ứng dụng sáng tạo và có lợi chưa từng có – từ bảo tồn giọng nói, dịch ngôn ngữ đến hình dung các hình thức kể chuyện mới và bảo vệ quyền riêng tư.

Mặt khác, việc sử dụng deepfake với mục đích xấu đe dọa quyền riêng tư, an ninh và niềm tin công chúng. Trong tương lai, điều quan trọng là tối đa hóa lợi ích đồng thời giảm thiểu tác hại.

Nhiều nỗ lực đang được triển khai trên nhiều mặt trận. Các công ty công nghệ và nhà nghiên cứu đầu tư vào công cụ phát hiện và khung xác thực (như dấu vết kỹ thuật số hoặc tiêu chuẩn kiểm chứng nội dung) để giúp người dùng phân biệt phương tiện thật và giả. Các nhà làm chính sách trên toàn cầu cũng đang xem xét luật pháp nhằm hạn chế các hành vi lạm dụng deepfake nghiêm trọng – ví dụ, cấm phim khiêu dâm giả, thông tin sai lệch bầu cử hoặc yêu cầu công khai khi nội dung bị chỉnh sửa bởi AI.

Tuy nhiên, chỉ dựa vào quy định là khó khăn do công nghệ phát triển nhanh và dễ dàng vượt qua ranh giới pháp lý. Giáo dục và nâng cao nhận thức cũng quan trọng không kém: các chương trình giáo dục kỹ năng số có thể dạy công chúng cách đánh giá phương tiện truyền thông một cách phê phán và nhận biết dấu hiệu deepfake, tương tự như cách mọi người học để phát hiện email lừa đảo hoặc các cuộc tấn công giả mạo.

Nếu người dùng biết rằng cảnh quay “hoàn hảo” hoặc giật gân có thể là giả mạo, họ sẽ cân nhắc trước khi phản ứng hoặc chia sẻ.

>>> Click để biết thêm:

Vai trò của AI trong kỷ nguyên số

Các vấn đề về AI và bảo mật dữ liệu

Cuối cùng, hiện tượng deepfake đã trở thành thực tế không thể đảo ngược – “thần đèn đã ra khỏi chai và chúng ta không thể nhốt lại”. Thay vì hoảng loạn hay cấm đoán hoàn toàn, các chuyên gia khuyến nghị một cách tiếp cận cân bằng: khuyến khích đổi mới có trách nhiệm trong phương tiện tổng hợp đồng thời xây dựng hàng rào bảo vệ mạnh mẽ chống lại lạm dụng.

Điều này có nghĩa là thúc đẩy các ứng dụng tích cực (trong giải trí, giáo dục, khả năng tiếp cận, v.v.) theo các nguyên tắc đạo đức, đồng thời đầu tư vào các biện pháp an ninh, khung pháp lý và chuẩn mực để xử lý các hành vi xấu. Bằng cách hợp tác chặt chẽ – giữa nhà công nghệ, cơ quan quản lý, doanh nghiệp và người dân – chúng ta có thể xây dựng một tương lai nơi deepfake AI trở nên “phổ biến, quen thuộc và đáng tin cậy”. Trong tương lai đó, chúng ta tận dụng sự sáng tạo và tiện lợi mà deepfake mang lại, đồng thời cảnh giác và kiên cường trước các hình thức lừa đảo mới mà nó tạo ra.

Cơ hội rất hấp dẫn, rủi ro cũng rất thực tế – nhận thức được cả hai là bước đầu tiên để định hình một cảnh quan truyền thông do AI dẫn dắt mang lại lợi ích cho toàn xã hội.