L’intelligenza artificiale ha sbloccato il potere di creare “deepfake” – media altamente realistici ma falsificati. Dai video che sostituiscono perfettamente il volto di una persona alle voci clonate che suonano indistinguibili dall’originale, i deepfake rappresentano una nuova era in cui vedere (o sentire) non significa sempre credere. Questa tecnologia offre entusiasmanti opportunità di innovazione in diversi settori, ma comporta anche rischi seri.

In questo articolo esploreremo cosa sono i deepfake AI, come funzionano e le principali opportunità e pericoli che comportano nel mondo di oggi.

Cos’è un Deepfake?

Un deepfake è un contenuto sintetico (video, audio, immagini o persino testo) generato o modificato dall’IA per imitare in modo convincente contenuti reali. Il termine deriva da “deep learning” (algoritmi avanzati di IA) e “fake”, ed è entrato nell’uso comune intorno al 2017 su un forum Reddit dove gli utenti condividevano video di celebrità con volti scambiati.

I deepfake moderni spesso utilizzano tecniche come le reti antagoniste generative (GAN) – due reti neurali che si allenano a vicenda per produrre falsi sempre più realistici. Negli ultimi dieci anni, i progressi nell’IA hanno reso più facile ed economico creare deepfake: chiunque abbia una connessione internet ha ora accesso ai generatori di media sintetici.

I primi deepfake sono diventati noti per usi malevoli (come inserire volti di celebrità in video falsi), dando alla tecnologia una reputazione negativa. Tuttavia, non tutti i contenuti sintetici generati dall’IA sono dannosi. Come molte tecnologie, i deepfake sono uno strumento – il loro impatto (positivo o negativo) dipende dall’uso che se ne fa.

Come sottolinea il World Economic Forum, pur essendoci molti esempi negativi, “questi contenuti sintetici possono anche portare benefici.” Nelle sezioni seguenti analizzeremo alcune applicazioni positive di rilievo del deepfake AI, seguite dai rischi e dagli abusi associati a questa tecnologia.

Opportunità e Applicazioni Positive del Deepfake AI

Nonostante la loro reputazione controversa, i deepfake (spesso indicati in modo più neutro come “media sintetici”) offrono diverse applicazioni positive nei campi creativo, educativo e umanitario:

• Intrattenimento e Media: I registi utilizzano tecniche deepfake per creare effetti visivi sorprendenti e persino per “ringiovanire” gli attori sullo schermo. Ad esempio, l’ultimo film di Indiana Jones ha ricreato digitalmente un giovane Harrison Ford allenando un’IA su decenni di sue riprese passate. Questa tecnologia può riportare in vita figure storiche o attori scomparsi per nuove interpretazioni e migliorare il doppiaggio abbinando accuratamente i movimenti delle labbra.
  In generale, i deepfake possono produrre contenuti più immersivi e realistici in film, televisione e videogiochi.

• Educazione e Formazione: La tecnologia deepfake può rendere l’apprendimento più coinvolgente e interattivo. Gli insegnanti potrebbero generare simulazioni educative o rievocazioni storiche con figure realistiche di personaggi famosi, dando vita a lezioni di storia o scienze.
  Scenari di gioco di ruolo realistici creati dall’IA (ad esempio, simulazioni di emergenze mediche o situazioni in cabina di pilotaggio) possono aiutare a formare professionisti in ambito sanitario, aeronautico, militare e altro. Queste simulazioni AI preparano gli studenti ad affrontare situazioni reali in modo sicuro e controllato.

• Accessibilità e Comunicazione: I media generati dall’IA stanno abbattendo barriere linguistiche e comunicative. I traduttori deepfake possono doppiare un video in più lingue mantenendo la voce e le espressioni del parlante – un’artista, FKA Twigs, ha persino creato un deepfake di sé stessa che parla lingue che non conosce. Questo ha un potenziale salvavita: i servizi di emergenza hanno utilizzato la traduzione vocale AI per interpretare le chiamate al 112 più rapidamente, riducendo i tempi di traduzione fino al 70% in situazioni critiche.
  Analogamente, avatar deepfake per la lingua dei segni sono in fase di sviluppo per tradurre il parlato in lingua dei segni per persone sorde, producendo video di segni così realistici che gli algoritmi non riuscivano a distinguerli da interpreti umani in studi preliminari. Un altro uso significativo è la clonazione vocale personale per chi perde la capacità di parlare – ad esempio, una deputata americana affetta da una malattia neurodegenerativa ha recentemente utilizzato un clone AI della propria voce per rivolgersi ai legislatori dopo aver perso la parola, permettendole “di parlare con il proprio tono di voce” nonostante la malattia.
  Queste applicazioni dimostrano come i deepfake migliorino l’accessibilità e preservino la voce e la comunicazione delle persone.

• Sanità e Terapia: In medicina, i media sintetici possono supportare sia la ricerca che il benessere dei pazienti. Le immagini mediche generate dall’IA possono aumentare i dati di addestramento per algoritmi diagnostici – uno studio ha rilevato che un sistema AI per la rilevazione di tumori addestrato principalmente su immagini MRI generate da GAN ha performato quanto un sistema addestrato su scansioni reali. Ciò significa che i deepfake possono potenziare l’IA medica creando dati di addestramento abbondanti senza compromettere la privacy dei pazienti.
  Dal punto di vista terapeutico, deepfake controllati possono anche confortare i pazienti. Ad esempio, i caregiver hanno sperimentato la creazione di video in cui la persona amata di un paziente con Alzheimer appare nella sua versione più giovane (del periodo che il paziente ricorda meglio), riducendo confusione e ansia. Nelle campagne di salute pubblica, le tecniche deepfake hanno permesso messaggi potenti: in una campagna anti-malaria, il messaggio video della star del calcio David Beckham è stato modificato dall’IA in modo che “parlasse” in nove lingue diverse, aiutando la campagna a raggiungere mezzo miliardo di persone nel mondo. Questo dimostra come i media sintetici possano amplificare messaggi importanti per pubblici diversi.

• Privacy e Anonimato: Paradossalmente, la stessa capacità di scambiare volti che può creare fake news può anche proteggere la privacy. Attivisti, informatori o persone vulnerabili possono essere ripresi con il volto sostituito da un volto realistico generato dall’IA, nascondendo la loro identità senza ricorrere a sfocature evidenti.
  Un esempio significativo è il documentario “Welcome to Chechnya” (2020), che ha utilizzato sovrapposizioni di volti generate dall’IA per mascherare l’identità di attivisti LGBT in fuga dalla persecuzione, preservando però le loro espressioni facciali e le emozioni. In questo modo, gli spettatori potevano connettersi con l’umanità dei soggetti, anche se i volti mostrati non erano reali.
  I ricercatori stanno ampliando questa idea in strumenti per la privacy quotidiana – ad esempio, sistemi sperimentali di “anonimizzazione” possono sostituire automaticamente il volto di una persona nelle foto condivise sui social media con un similare sintetico se non ha acconsentito a essere identificata. Allo stesso modo, la tecnologia “voice skin” può modificare la voce di un parlante in tempo reale (come nei giochi online o nelle riunioni virtuali) per prevenire pregiudizi o molestie, mantenendo però l’emozione e l’intento originali.
  Queste applicazioni suggeriscono che i deepfake possono aiutare le persone a controllare la propria identità digitale e la sicurezza.

Lo scambio di volti con deepfake può essere utilizzato per anonimizzare gli individui. Ad esempio, il film Welcome to Chechnya ha protetto attivisti a rischio sovrapponendo i loro volti con quelli di attori volontari tramite IA, nascondendo le loro identità ma mantenendo espressioni naturali. Questo dimostra come i media sintetici possano tutelare la privacy in situazioni delicate.

In sintesi, i deepfake sono una lama a doppio taglio. Da un lato, “i contenuti sintetici non sono intrinsecamente positivi o negativi – il loro impatto dipende dall’attore e dall’intenzione”. Gli esempi sopra evidenziano l’opportunità di sfruttare la tecnologia deepfake per creatività, comunicazione e bene sociale.

Tuttavia, il rovescio della medaglia di questo potente strumento è il suo enorme potenziale di danno se usato in modo malevolo. Negli ultimi anni sono emersi numerosi casi di inganni e abusi alimentati dai deepfake, che esamineremo di seguito.

Rischi e Abusi dei Deepfake

La diffusione di deepfake facili da realizzare ha anche sollevato serie preoccupazioni e minacce. Infatti, un sondaggio del 2023 ha rilevato che il 60% degli americani era “molto preoccupato” per i deepfake – classificandoli come la loro paura numero uno legata all’IA. I principali rischi associati alla tecnologia deepfake includono:

• Disinformazione e Manipolazione Politica: I deepfake possono essere usati come arma per diffondere disinformazione su larga scala. Video o audio falsificati di personaggi pubblici possono mostrarli mentre dicono o fanno cose mai accadute, ingannando il pubblico. Queste falsità possono minare la fiducia nelle istituzioni, influenzare l’opinione pubblica o addirittura scatenare disordini.

  Ad esempio, durante la guerra della Russia in Ucraina, è circolato un video deepfake del presidente Volodymyr Zelensky che sembrava arrendersi; sebbene sia stato rapidamente smentito per evidenti difetti (come una testa sproporzionata e una voce strana), ha dimostrato il potenziale degli avversari di usare falsi AI nella propaganda.
  Analogamente, un’immagine falsa di un “esplosione” vicino al Pentagono è diventata virale nel 2023 causando un breve calo del mercato azionario prima che le autorità chiarissero che era generata dall’IA.

  Con il miglioramento dei deepfake, la preoccupazione è che possano essere usati per creare fake news estremamente convincenti, erodendo la capacità del pubblico di distinguere la realtà dalla finzione. Ciò non solo diffonde menzogne ma crea anche un effetto di “dividendo del bugiardo” – le persone potrebbero iniziare a diffidare anche di video o prove autentiche, sostenendo che siano deepfake. Il risultato complessivo è un’erosione della verità e una perdita ulteriore di fiducia nei media e nel discorso democratico.

• Pornografia Non Consensuale e Molestie: Uno degli usi malevoli più precoci e diffusi dei deepfake è stata la creazione di contenuti espliciti falsi. Utilizzando poche foto, gli aggressori (spesso tramite forum anonimi o app) possono generare video pornografici realistici di individui – tipicamente donne – senza il loro consenso. Si tratta di una grave violazione della privacy e di molestie sessuali.

  Studi hanno rilevato che la stragrande maggioranza dei video deepfake online (circa il 90–95%) è pornografia non consensuale, quasi sempre con vittime donne. Questi video falsi possono avere effetti devastanti a livello personale, causando umiliazione, trauma, danni alla reputazione e persino minacce di estorsione. Attrici di alto profilo, giornaliste e anche privati hanno visto i loro volti incollati su contenuti per adulti.

  Le forze dell’ordine e i legislatori sono sempre più allarmati da questa tendenza; ad esempio, negli Stati Uniti diversi stati e il governo federale hanno proposto o approvato leggi per criminalizzare la pornografia deepfake e offrire alle vittime strumenti legali. Il danno della pornografia deepfake sottolinea come questa tecnologia possa essere sfruttata per violare la privacy, prendere di mira individui (spesso con un bias anti-donna) e diffondere immagini false diffamatorie a basso costo per il colpevole.

• Frode e Truffe di Impersonificazione: I deepfake sono emersi come un’arma pericolosa per i cybercriminali. Cloni vocali generati dall’IA e persino deepfake video in diretta sono usati per impersonare persone di fiducia a scopo fraudolento. L’FBI avverte che i criminali stanno sfruttando cloni vocali/video AI per fingersi familiari, colleghi o dirigenti – ingannando le vittime affinché inviino denaro o rivelino informazioni sensibili.

  Queste truffe, spesso una versione high-tech della frode di “impersonificazione”, hanno già causato perdite significative. In un caso reale, ladri hanno usato l’IA per imitare la voce di un CEO e hanno convinto con successo un dipendente a trasferire loro 220.000 € (circa 240.000 $). In un altro episodio, i criminali hanno deepfakato la presenza video del CFO di un’azienda in una chiamata Zoom per autorizzare un trasferimento di 25 milioni di dollari su conti fraudolenti.

  Questi attacchi di social engineering basati su deepfake sono in aumento – i report mostrano un’impennata globale delle frodi deepfake negli ultimi anni. La combinazione di voci/video falsi altamente credibili e la rapidità della comunicazione digitale può cogliere le vittime di sorpresa. Le aziende sono particolarmente a rischio di “truffe CEO” o falsi dirigenti che impartiscono ordini.

  Se i dipendenti non sono formati a essere scettici verso i media audiovisivi, potrebbero seguire istruzioni deepfake apparentemente legittime. Il risultato può essere il furto di fondi, violazioni di dati o altri danni costosi. Questa minaccia ha spinto gli esperti di sicurezza a raccomandare pratiche più rigorose di verifica dell’identità (ad esempio, usare canali sicuri per confermare le richieste) e strumenti tecnici per autenticare audio e video nelle transazioni sensibili.

• Erosione della Fiducia e Sfide Legali: L’avvento dei deepfake sfuma la linea tra realtà e finzione, sollevando ampie preoccupazioni sociali ed etiche. Con contenuti falsi sempre più convincenti, le persone potrebbero iniziare a dubitare delle prove autentiche – uno scenario pericoloso per la giustizia e la fiducia pubblica.

  Ad esempio, un video reale di un illecito potrebbe essere respinto come “deepfake” dall’autore del reato, complicando il giornalismo e i procedimenti legali. Questa erosione della fiducia nei media digitali è difficile da quantificare, ma molto dannosa nel tempo.

  I deepfake pongono anche questioni legali complesse: chi detiene i diritti su una somiglianza generata dall’IA di una persona? Come si applicano le leggi su diffamazione o calunnia a un video falso che danneggia la reputazione di qualcuno? Ci sono anche questioni di consenso ed etica – usare il volto o la voce di qualcuno in un deepfake senza permesso è generalmente considerato una violazione dei suoi diritti, ma le leggi stanno ancora adeguandosi a questa realtà.

  Alcune giurisdizioni hanno iniziato a richiedere che i media alterati siano chiaramente etichettati, specialmente se usati in pubblicità politica o elezioni. Inoltre, piattaforme come i social network sono sotto pressione per rilevare e rimuovere deepfake dannosi (similmente a come gestiscono altre forme di disinformazione o media manipolati).

  Dal punto di vista tecnologico, rilevare i deepfake è una “corsa agli armamenti”. I ricercatori stanno sviluppando sistemi di rilevamento AI per individuare sottili artefatti di falsità (ad esempio, anomalie nel flusso sanguigno facciale o nei modelli di ammiccamento). Tuttavia, man mano che il rilevamento migliora, migliorano anche i metodi deepfake per eluderlo – portando a una continua battaglia tra gatto e topo.

  Tutte queste sfide rendono chiaro che la società deve affrontare come verificare autenticamente i media nell’era dell’IA e come rendere responsabili i creatori di deepfake per gli abusi.

Affrontare l’Era dei Deepfake: Trovare un Equilibrio

I deepfake AI rappresentano un classico dilemma del progresso tecnologico: immense promesse intrecciate a pericoli. Da un lato, abbiamo usi creativi e benefici senza precedenti – dalla conservazione delle voci e traduzione delle lingue all’immaginare nuove forme di narrazione e protezione della privacy.

Dall’altro, gli usi malevoli dei deepfake minacciano la privacy, la sicurezza e la fiducia pubblica. Andando avanti, è cruciale massimizzare i benefici minimizzando i danni.

Gli sforzi sono in corso su più fronti. Aziende tecnologiche e ricercatori investono in strumenti di rilevamento e framework di autenticità (come watermark digitali o standard di verifica dei contenuti) per aiutare le persone a distinguere media reali da falsi. I legislatori di tutto il mondo stanno esplorando normative per limitare le pratiche deepfake più abusive – ad esempio, vietando la pornografia falsa, la disinformazione elettorale o richiedendo la segnalazione quando i media sono stati alterati dall’IA.

Tuttavia, solo le regolamentazioni sono difficili da applicare, dato quanto rapidamente la tecnologia evolve e quanto facilmente supera le giurisdizioni. L’educazione e la consapevolezza sono altrettanto importanti: programmi di alfabetizzazione digitale possono insegnare al pubblico come valutare criticamente i media e riconoscere i segni del deepfake, proprio come si è imparato a individuare truffe via email o phishing.

Se gli utenti sanno che un video “perfetto” o sensazionalistico potrebbe essere fabbricato, possono tenerne conto prima di reagire o condividere.

>>> Clicchi per saperne di più:

Il ruolo dell'IA nell'era digitale

Problemi di sicurezza dei dati e intelligenza artificiale

In definitiva, il fenomeno deepfake è qui per restare – “il genio è uscito dalla bottiglia e non possiamo rimetterlo dentro”. Piuttosto che panico o divieti assoluti, gli esperti propongono un approccio equilibrato: incoraggiare l’innovazione responsabile nei media sintetici sviluppando al contempo forti tutele contro gli abusi.

Ciò significa promuovere applicazioni positive (nell’intrattenimento, nell’educazione, nell’accessibilità, ecc.) secondo linee guida etiche, e contemporaneamente investire in misure di sicurezza, quadri normativi e norme per punire gli usi malevoli. Collaborando insieme – tecnologi, regolatori, aziende e cittadini – possiamo costruire un futuro in cui il deepfake AI sia “comune, familiare e affidabile”. In un tale futuro, sfruttiamo la creatività e la comodità offerte dai deepfake, restando vigili e resilienti contro le nuove forme di inganno che consentono.

Le opportunità sono entusiasmanti e i rischi reali – riconoscerli entrambi è il primo passo per plasmare un panorama mediatico guidato dall’IA che benefici l’intera società.