Inteligența artificială a dezlănțuit puterea de a crea „deepfake-uri” – materiale media extrem de realiste, dar fabricate. De la videoclipuri care schimbă fără cusur fața unei persoane, până la voci clonate care sună identic cu persoana reală, deepfake-urile reprezintă o nouă eră în care a vedea (sau a auzi) nu înseamnă întotdeauna a crede. Această tehnologie oferă oportunități captivante de inovare în diverse industrii, dar aduce și riscuri serioase.

În acest articol, vom explora ce sunt deepfake-urile AI, cum funcționează și principalele oportunități și pericole pe care le aduc în lumea de astăzi.

Ce este un Deepfake?

Un deepfake este un material sintetic (video, audio, imagini sau chiar text) generat sau modificat de AI pentru a imita conținutul real într-un mod convingător. Termenul provine din „deep learning” (algoritmi avansați de inteligență artificială) și „fake”, și a intrat în uzul popular în jurul anului 2017 pe un forum Reddit unde utilizatorii partajau videoclipuri cu fețe de celebrități schimbate.

Deepfake-urile moderne folosesc adesea tehnici precum rețelele generative adversariale (GAN) – două rețele neuronale care se antrenează una împotriva celeilalte pentru a produce falsuri din ce în ce mai realiste. În ultimul deceniu, progresele în AI au făcut crearea deepfake-urilor mai ușoară și mai accesibilă: oricine are acces la internet poate acum să genereze media sintetică.

Primele deepfake-uri au devenit notorii pentru utilizări malițioase (cum ar fi inserarea fețelor celebrităților în videoclipuri false), ceea ce a conferit tehnologiei o reputație negativă. Totuși, nu tot conținutul sintetic generat de AI este rău intenționat. Ca multe tehnologii, deepfake-urile sunt un instrument – impactul lor (pozitiv sau negativ) depinde de modul în care sunt folosite.

După cum notează Forumul Economic Mondial, deși există multe exemple negative, „astfel de conținut sintetic poate aduce și beneficii.” În secțiunile următoare, vom analiza câteva aplicații pozitive importante ale deepfake-urilor AI, urmate de riscurile și abuzurile serioase asociate acestei tehnologii.

Oportunități și Aplicații Pozitive ale Deepfake-urilor AI

În ciuda reputației controversate, deepfake-urile (adesea denumite mai neutru „media sintetice”) oferă numeroase aplicații pozitive în domenii creative, educaționale și umanitare:

• Divertisment și Media: Regizorii folosesc tehnici deepfake pentru a crea efecte vizuale impresionante și chiar pentru a „întineri” actori pe ecran. De exemplu, ultimul film Indiana Jones a recreat digital un Harrison Ford mai tânăr, antrenând un AI pe baza unor decenii de imagini cu actorul. Această tehnologie poate readuce la viață figuri istorice sau actori decedați pentru noi interpretări și poate îmbunătăți dublajul prin potrivirea precisă a mișcărilor buzelor.
  În general, deepfake-urile pot produce conținut mai captivant și realist în filme, televiziune și jocuri.

• Educație și Instruire: Tehnologia deepfake poate face experiențele de învățare mai interactive și atractive. Instructorii pot genera simulări educaționale sau reconstituiri istorice cu figuri realiste ale unor personalități celebre, aducând lecțiile de istorie sau știință la viață.
  Scenariile realiste de rol create de AI (de exemplu, simularea unei urgențe medicale sau a unui scenariu în cabina unui avion) pot ajuta la pregătirea profesioniștilor din sănătate, aviație, armată și altele. Aceste simulări AI pregătesc cursanții pentru situații reale într-un mod sigur și controlat.

• Accesibilitate și Comunicare: Media generată de AI sparge barierele lingvistice și de comunicare. Traducătorii deepfake pot dubla un videoclip în mai multe limbi păstrând vocea și gesturile vorbitorului – o artistă, FKA Twigs, a creat chiar un deepfake al ei care vorbește în limbi pe care nu le cunoaște. Aceasta are un potențial salvator de vieți: serviciile de urgență au folosit traducerea vocală AI pentru a interpreta apelurile 112 mai rapid, reducând timpul de traducere cu până la 70% în situații critice.
  În mod similar, avatarurile deepfake pentru limbajul semnelor sunt dezvoltate pentru a traduce vorbirea în limbajul semnelor pentru persoanele surde, producând videoclipuri atât de realiste încât algoritmii nu le puteau distinge de semnatarii reali în studii timpurii. O altă utilizare importantă este clonarea vocală personală pentru cei care își pierd capacitatea de a vorbi – de exemplu, o congresmenă americană cu o boală neurodegenerativă a folosit recent o clonă AI a propriei voci pentru a se adresa colegilor după ce nu a mai putut vorbi, permițându-i „să vorbească cu tonul vocii sale” în ciuda bolii.
  Astfel de aplicații arată cum deepfake-urile pot îmbunătăți accesibilitatea și pot păstra vocile și comunicarea oamenilor.

• Sănătate și Terapie: În medicină, media sintetică poate sprijini atât cercetarea, cât și bunăstarea pacienților. Imaginile medicale generate de AI pot completa datele de antrenament pentru algoritmi diagnostici – un studiu a arătat că un sistem AI pentru detectarea tumorilor antrenat în mare parte pe imagini RMN generate de GAN a performat la fel de bine ca un sistem antrenat pe scanări reale. Aceasta înseamnă că deepfake-urile pot susține AI medical prin crearea de date de antrenament în cantități mari, fără a compromite confidențialitatea pacienților.
  Din punct de vedere terapeutic, deepfake-urile controlate pot aduce alinare pacienților. De exemplu, îngrijitorii au experimentat crearea de videoclipuri în care o persoană cu Alzheimer vede o figură dragă în forma sa tânără (din perioada pe care pacientul o amintește cel mai bine), reducând confuzia și anxietatea. În campanii de sănătate publică, tehnicile deepfake au permis mesaje puternice: într-o campanie anti-malarie, mesajul video al starului de fotbal David Beckham a fost modificat de AI astfel încât „el” a vorbit în nouă limbi diferite, ajutând campania să ajungă la jumătate de miliard de oameni la nivel global. Acest exemplu arată cum media sintetică poate amplifica mesaje importante către audiențe diverse.

• Confidențialitate și Anonimat: Paradoxal, aceeași capacitate de schimbare a feței care poate crea știri false poate proteja intimitatea. Activistii, avertizorii de integritate sau persoanele vulnerabile pot fi filmați cu fețele înlocuite de o față generată realist de AI, ascunzându-și identitatea fără a recurge la estompare evidentă.
  Un exemplu notabil este documentarul „Welcome to Chechnya” (2020), care a folosit suprapuneri AI pentru a masca identitatea activiștilor LGBT care fug de persecuție, păstrând în același timp expresiile faciale și emoțiile. Astfel, spectatorii puteau empatiza cu umanitatea subiecților, chiar dacă fețele afișate nu erau reale.
  Cercetătorii extind această idee în instrumente pentru confidențialitatea de zi cu zi – de exemplu, sistemele experimentale „de anonimizare” pot înlocui automat fața unei persoane în fotografiile distribuite pe rețelele sociale cu un dublu sintetic dacă aceasta nu a consimțit să fie identificată. De asemenea, tehnologia „voice skin” poate modifica vocea vorbitorului în timp real (precum în jocurile online sau întâlnirile virtuale) pentru a preveni prejudecățile sau hărțuirea, păstrând în același timp emoția și intenția originală.
  Aceste aplicații sugerează că deepfake-urile pot ajuta indivizii să controleze identitatea și siguranța lor digitală.

Schimbarea feței prin deepfake poate fi folosită pentru a anonimiza persoanele. De exemplu, filmul Welcome to Chechnya a protejat activiștii expuși riscului prin suprapunerea fețelor lor cu cele ale unor actori voluntari prin AI, ascunzând identitatea acestora, dar păstrând expresiile naturale. Acest exemplu demonstrează cum media sintetică poate proteja intimitatea în situații sensibile.

Pe scurt, deepfake-urile sunt o sabie cu două tăișuri. Pe de o parte, „conținutul sintetic nu este nici în mod inerent pozitiv, nici negativ – impactul său depinde de actor și de intenția acestuia”. Exemplele de mai sus evidențiază oportunitatea de a valorifica tehnologia deepfake pentru creativitate, comunicare și bine social.

Totuși, cealaltă față a acestei tehnologii puternice este potențialul uriaș de a provoca daune atunci când este folosită cu rea intenție. Anii recenți au adus numeroase avertismente despre înșelăciuni și abuzuri alimentate de deepfake-uri, pe care le vom analiza în continuare.

Riscuri și Abuzuri ale Deepfake-urilor

Proliferarea deepfake-urilor ușor de realizat a generat și îngrijorări și amenințări serioase. De fapt, un sondaj din 2023 a arătat că 60% dintre americani erau „foarte îngrijorați” de deepfake-uri – plasându-le pe primul loc în topul temerilor legate de AI. Principalele riscuri asociate tehnologiei deepfake includ:

• Dezinformare și Manipulare Politică: Deepfake-urile pot fi folosite ca arme pentru a răspândi dezinformare la scară largă. Videoclipuri sau înregistrări audio falsificate cu figuri publice pot arăta că acestea spun sau fac lucruri care nu s-au întâmplat niciodată, inducând în eroare publicul. Astfel de falsuri pot submina încrederea în instituții, influența opinia publică sau chiar incita tulburări.

  De exemplu, în timpul războiului Rusiei în Ucraina, a circulat un videoclip deepfake în care președintele Volodymyr Zelensky părea să se predea; deși a fost rapid demontat datorită unor defecte evidente (cum ar fi o capete disproporționat de mare și o voce ciudată), a demonstrat potențialul adversarilor de a folosi falsuri AI în propagandă.
  În mod similar, o imagine falsă cu o „explozie” lângă Pentagon a devenit virală în 2023 și a cauzat o scădere temporară a pieței bursiere înainte ca autoritățile să clarifice că era generată de AI.

  Pe măsură ce deepfake-urile devin mai convingătoare, există temerea că ele ar putea crea știri false extrem de credibile, erodând capacitatea publicului de a distinge realitatea de ficțiune. Aceasta nu doar răspândește minciuni, ci creează și un efect de „dividend al mincinosului” – oamenii pot începe să nu mai aibă încredere nici în videoclipurile sau dovezile autentice, susținând că sunt deepfake-uri. Rezultatul general este o erodare a adevărului și o pierdere suplimentară a încrederii în media și discursul democratic.

• Pornografie Non-Consensuală și Hărțuire: Una dintre cele mai timpurii și răspândite utilizări malițioase ale deepfake-urilor a fost crearea de conținut explicit fals. Folosind câteva fotografii, atacatorii (adesea prin forumuri anonime sau aplicații) pot genera videoclipuri pornografice realiste cu persoane – de obicei femei – fără consimțământul acestora. Aceasta reprezintă o încălcare gravă a intimității și o formă de hărțuire sexuală.

  Studii au arătat că majoritatea covârșitoare a videoclipurilor deepfake online (aproximativ 90–95%) sunt pornografie non-consensuală, aproape toate având victime femei. Astfel de videoclipuri false pot avea efecte devastatoare la nivel personal, cauzând umilință, traume, daune reputaționale și chiar amenințări cu șantajul. Actrițe cunoscute, jurnaliști și chiar persoane private și-au găsit fețele lipite pe conținut pentru adulți.

  Forțele de ordine și factorii de decizie sunt tot mai alarmați de această tendință; de exemplu, în SUA, mai multe state și guvernul federal au propus sau adoptat legi pentru a incrimina pornografia deepfake și a oferi victimelor căi legale de atac. Daunele cauzate de pornografia deepfake subliniază cum această tehnologie poate fi exploatată pentru a încălca intimitatea, a viza indivizi (adesea cu un bias anti-femei) și a răspândi imagini false defăimătoare cu costuri reduse pentru făptaș.

• Fraudă și Escrocherii prin Impersonare: Deepfake-urile au devenit o armă periculoasă pentru infractorii cibernetici. Clonele vocale generate de AI și chiar deepfake-urile video live sunt folosite pentru a se da drept persoane de încredere în scopuri frauduloase. FBI avertizează că infractorii folosesc clonarea vocală/video AI pentru a se da drept membri ai familiei, colegi sau directori – păcălind victimele să trimită bani sau să dezvăluie informații sensibile.

  Aceste escrocherii, adesea o versiune high-tech a fraudei prin „impersonare”, au cauzat deja pierderi semnificative. Într-un caz real, hoții au folosit AI pentru a imita vocea unui CEO și au convins cu succes un angajat să le transfere 220.000 € (aproximativ 240.000 $). Într-un alt incident, infractorii au deepfake-uit prezența video a directorului financiar al unei companii într-o conferință Zoom pentru a autoriza un transfer de 25 milioane de dolari către conturi frauduloase.

  Astfel de atacuri de inginerie socială bazate pe deepfake sunt în creștere – rapoartele arată o explozie a fraudei deepfake la nivel global în ultimii ani. Combinația dintre voci/video-uri false foarte credibile și viteza comunicării digitale poate lua victimele prin surprindere. Companiile sunt deosebit de expuse la „escrocherii CEO” sau ordine false date de directori falși.

  Dacă angajații nu sunt instruiți să fie sceptici față de media audiovizuală, pot urma instrucțiuni deepfake care par legitime. Rezultatul poate fi furtul de fonduri, breșe de securitate sau alte daune costisitoare. Această amenințare a determinat experții în securitate să recomande practici mai stricte de verificare a identității (de exemplu, folosirea unor canale sigure pentru confirmarea cererilor) și instrumente tehnice de detectare pentru autentificarea audio și video în tranzacții sensibile.

• Erodarea Încrederii și Provocări Legale: Apariția deepfake-urilor estompează granița dintre realitate și ficțiune, ridicând preocupări societale și etice majore. Pe măsură ce conținutul fals devine mai convingător, oamenii pot începe să pună la îndoială dovezile autentice – un scenariu periculos pentru justiție și încrederea publică.

  De exemplu, un videoclip real cu o faptă reprobabilă ar putea fi respins ca „deepfake” de către făptuitor, complicând jurnalismul și procedurile legale. Această erodare a încrederii în media digitală este greu de cuantificat, dar foarte dăunătoare pe termen lung.

  Deepfake-urile ridică și probleme legale complexe: Cine deține drepturile asupra unei imagini generate de AI a unei persoane? Cum se aplică legile privind defăimarea sau calomnia în cazul unui videoclip fals care lezează reputația cuiva? Există și întrebări legate de consimțământ și etică – folosirea feței sau vocii cuiva într-un deepfake fără permisiune este în general considerată o încălcare a drepturilor, însă legislația încă se adaptează acestei realități.

  Unele jurisdicții au început să impună etichetarea clară a materialelor modificate, mai ales dacă sunt folosite în reclame politice sau alegeri. În plus, platformele sociale sunt supuse presiunii de a detecta și elimina deepfake-urile dăunătoare (asemănător modului în care gestionează alte forme de dezinformare sau media manipulate).

  Din punct de vedere tehnologic, detectarea deepfake-urilor este o „cursă a înarmărilor”. Cercetătorii dezvoltă sisteme AI pentru a identifica artefacte subtile ale falsului (de exemplu, anomalii în fluxul sanguin facial sau în tiparele de clipire). Totuși, pe măsură ce detectarea se îmbunătățește, metodele deepfake evoluează pentru a o ocoli – ducând la o luptă continuă de tip pisică-șoarece.

  Toate aceste provocări arată clar că societatea trebuie să găsească modalități de a verifica autenticitatea media în era AI și de a trage la răspundere creatorii de deepfake-uri pentru abuzuri.

Gestionarea Epocii Deepfake: Găsirea Echilibrului

Deepfake-urile AI reprezintă un clasic dilema a progresului tehnologic: promisiuni imense împletite cu pericole. Pe de o parte, avem utilizări creative și benefice fără precedent – de la păstrarea vocilor și traducerea limbilor, până la noi forme de povestire și protejarea intimității.

Pe de altă parte, utilizările malițioase ale deepfake-urilor amenință intimitatea, securitatea și încrederea publică. În continuare, este esențial să maximizăm beneficiile și să minimizăm daunele.

Se depun eforturi pe mai multe fronturi. Companiile tehnologice și cercetătorii investesc în instrumente de detectare și cadre de autentificare (cum ar fi filigranele digitale sau standardele de verificare a conținutului) pentru a ajuta oamenii să distingă media reală de cea falsă. Factorii de decizie din întreaga lume explorează legislația pentru a limita cele mai abuzive practici deepfake – de exemplu, interzicerea pornografiei false, dezinformării electorale sau impunerea dezvăluirilor când media a fost modificată de AI.

Totuși, reglementările singure sunt dificile, având în vedere cât de rapid evoluează tehnologia și cât de ușor traversează granițele jurisdicționale. Educația și conștientizarea sunt la fel de importante: programele de alfabetizare digitală pot învăța publicul să evalueze critic media și să recunoască semnele deepfake-urilor, la fel cum oamenii au învățat să identifice escrocheriile prin email sau tentativele de phishing.

Dacă utilizatorii știu că un material „perfect” sau senzațional poate fi fabricat, pot lua acest lucru în considerare înainte de a reacționa sau distribui.

>>> Click pentru a afla mai multe:

Rolul AI în era digitală

Probleme legate de inteligența artificială și securitatea datelor

În cele din urmă, fenomenul deepfake este aici pentru a rămâne – „geniul a ieșit din sticlă și nu-l putem băga înapoi”. În loc să panicăm sau să impunem interdicții totale, experții recomandă o abordare echilibrată: să încurajăm inovația responsabilă în media sintetică, dezvoltând în același timp măsuri de protecție împotriva abuzurilor.

Aceasta înseamnă să promovăm aplicațiile pozitive (în divertisment, educație, accesibilitate etc.) sub ghiduri etice și să investim simultan în măsuri de securitate, cadre legale și norme pentru a sancționa utilizările malițioase. Prin colaborare – între tehnologi, reglementatori, companii și cetățeni – putem construi un viitor în care deepfake-urile AI sunt „obișnuite, familiare și de încredere”. Într-un astfel de viitor, valorificăm creativitatea și confortul oferite de deepfake-uri, rămânând vigilenți și rezilienți față de noile forme de înșelăciune pe care le permit.

Oportunitățile sunt entuziasmante, iar riscurile sunt reale – recunoașterea ambelor este primul pas în conturarea unui peisaj media condus de AI care să aducă beneficii întregii societăți.