L’Intelligenza Artificiale (IA) è ormai integrata in tutto, dagli assistenti per smartphone ai feed dei social media, fino alla sanità e ai trasporti. Queste tecnologie offrono benefici senza precedenti, ma comportano anche rischi e sfide significative.

Esperti e istituzioni internazionali avvertono che senza adeguate linee guida etiche, l’IA può riprodurre pregiudizi e discriminazioni reali, contribuire al danno ambientale, minacciare i diritti umani e amplificare le disuguaglianze esistenti.

In questo articolo, esploriamo con INVIAI i rischi dell’uso dell’IA in tutti i settori e tipi di IA – dai chatbot agli algoritmi fino ai robot – basandoci su approfondimenti provenienti da fonti ufficiali e internazionali.

Pregiudizi e discriminazioni nei sistemi di IA

Uno dei principali rischi dell’IA è il consolidamento di pregiudizi e discriminazioni ingiuste. I modelli di IA apprendono da dati che possono riflettere pregiudizi storici o disuguaglianze; di conseguenza, un sistema di IA può trattare le persone in modo differente in base a razza, genere o altre caratteristiche, perpetuando così ingiustizie.

Ad esempio, “un’IA generica malfunzionante può causare danni attraverso decisioni parziali rispetto a caratteristiche protette come razza, genere, cultura, età e disabilità,” secondo un rapporto internazionale sulla sicurezza dell’IA.

Algoritmi parziali utilizzati in ambiti come assunzioni, prestiti o polizia hanno già portato a risultati diseguali che svantaggiano ingiustamente alcuni gruppi. Organismi globali come l’UNESCO avvertono che senza misure di equità, l’IA rischia “di riprodurre pregiudizi e discriminazioni reali, alimentare divisioni e minacciare i diritti e le libertà fondamentali dell’uomo”. Garantire che i sistemi di IA siano addestrati su dati diversificati e rappresentativi e sottoposti a controlli per i pregiudizi è essenziale per prevenire discriminazioni automatizzate.

Pericoli di disinformazione e deepfake

La capacità dell’IA di generare testi, immagini e video iperrealistici ha suscitato timori di un’ondata di disinformazione. L’IA generativa può produrre articoli di fake news convincenti, immagini false o video deepfake difficili da distinguere dalla realtà.

Il Global Risks Report 2024 del World Economic Forum identifica “informazioni manipolate e falsificate” come il rischio globale a breve termine più grave, sottolineando che l’IA “amplifica informazioni manipolate e distorte che potrebbero destabilizzare le società.”

In effetti, la disinformazione e la manipolazione alimentate dall’IA rappresentano una delle “sfide più grandi mai affrontate dal processo democratico”, soprattutto con miliardi di persone chiamate a votare nelle prossime elezioni. Media sintetici come video deepfake e voci clonate dall’IA possono essere usati come armi per diffondere propaganda, impersonare figure pubbliche o commettere frodi.

Le autorità avvertono che attori malintenzionati possono sfruttare l’IA per campagne di disinformazione su larga scala, facilitando l’inondazione dei social network con contenuti falsi e seminando caos. Il rischio è un ambiente informativo cinico in cui i cittadini non possono fidarsi di ciò che vedono o ascoltano, minando il discorso pubblico e la democrazia.

Minacce alla privacy e sorveglianza di massa

L’uso diffuso dell’IA solleva serie preoccupazioni per la privacy. I sistemi di IA spesso richiedono enormi quantità di dati personali – dai nostri volti e voci alle abitudini di acquisto e alla posizione – per funzionare efficacemente. Senza adeguate protezioni, questi dati possono essere abusati o sfruttati.

Ad esempio, il riconoscimento facciale e gli algoritmi predittivi potrebbero consentire una sorveglianza pervasiva, tracciando ogni movimento degli individui o valutandone il comportamento senza consenso. La raccomandazione globale sull’etica dell’IA dell’UNESCO avverte esplicitamente che “i sistemi di IA non dovrebbero essere utilizzati per scopi di scoring sociale o sorveglianza di massa.” Tali usi sono ampiamente considerati rischi inaccettabili.

Inoltre, l’analisi guidata dall’IA dei dati personali può rivelare dettagli intimi delle nostre vite, dallo stato di salute alle convinzioni politiche, minacciando il diritto alla privacy. Le autorità per la protezione dei dati sottolineano che la privacy è “un diritto essenziale per la tutela della dignità umana, dell’autonomia e dell’agenzia” che deve essere rispettato durante tutto il ciclo di vita di un sistema di IA.

Se lo sviluppo dell’IA supera le normative sulla privacy, gli individui potrebbero perdere il controllo sulle proprie informazioni. La società deve garantire una solida governance dei dati, meccanismi di consenso e tecniche di tutela della privacy affinché le tecnologie IA non diventino strumenti di sorveglianza incontrollata.

Fallimenti di sicurezza e danni involontari

Sebbene l’IA possa automatizzare decisioni e compiti fisici con efficienza sovrumana, può anche fallire in modi imprevedibili, causando danni concreti. Affidiamo all’IA responsabilità sempre più critiche per la sicurezza – come guidare auto, diagnosticare pazienti o gestire reti elettriche – ma questi sistemi non sono infallibili.

Malfunzionamenti, dati di addestramento imperfetti o situazioni impreviste possono indurre un’IA a commettere errori pericolosi. L’IA di un’auto a guida autonoma potrebbe scambiare un pedone per un oggetto, o un’IA medica potrebbe consigliare un trattamento errato, con conseguenze potenzialmente letali.

Riconoscendo ciò, le linee guida internazionali sottolineano che danni indesiderati e rischi per la sicurezza derivanti dall’IA devono essere previsti e prevenuti: “Danni indesiderati (rischi per la sicurezza), così come vulnerabilità ad attacchi (rischi per la sicurezza informatica), devono essere evitati e affrontati durante tutto il ciclo di vita dei sistemi di IA per garantire la sicurezza e la protezione di persone, ambiente ed ecosistemi.”

In altre parole, i sistemi di IA devono essere rigorosamente testati, monitorati e dotati di sistemi di sicurezza per ridurre al minimo il rischio di malfunzionamenti. Un’eccessiva fiducia nell’IA può essere rischiosa: se gli esseri umani si affidano ciecamente alle decisioni automatizzate, potrebbero non intervenire in tempo quando qualcosa va storto.

Garantire la supervisione umana è quindi fondamentale. In ambiti ad alto rischio (come sanità o trasporti), le decisioni finali devono rimanere soggette al giudizio umano e, come osserva l’UNESCO, “le decisioni di vita o di morte non dovrebbero essere delegate ai sistemi di IA.” Mantenere sicurezza e affidabilità nell’IA è una sfida continua, che richiede progettazione attenta e una cultura della responsabilità da parte degli sviluppatori.

Spostamento del lavoro e disruzione economica

L’impatto trasformativo dell’IA sull’economia è una lama a doppio taglio. Da un lato, l’IA può aumentare la produttività e creare industrie completamente nuove; dall’altro, comporta un rischio di sostituzione di milioni di lavoratori tramite l’automazione.

Molti lavori – soprattutto quelli che prevedono compiti routinari, ripetitivi o dati facilmente analizzabili – sono vulnerabili all’automatizzazione da parte di algoritmi e robot IA. Le previsioni globali sono preoccupanti: ad esempio, il World Economic Forum stima che “novantadue milioni di posti di lavoro saranno probabilmente sostituiti entro il 2030” a causa dell’IA e delle tecnologie correlate.

Sebbene l’economia possa anche creare nuovi ruoli (potenzialmente più posti di lavoro di quelli persi nel lungo termine), la transizione sarà dolorosa per molti. I lavori creati spesso richiedono competenze diverse e più avanzate o sono concentrati in specifici poli tecnologici, il che significa che molti lavoratori sostituiti potrebbero avere difficoltà a trovare una nuova collocazione.

Questo disallineamento tra le competenze possedute dai lavoratori e quelle richieste dai nuovi ruoli guidati dall’IA potrebbe portare a un aumento della disoccupazione e delle disuguaglianze se non affrontato. Infatti, politici e ricercatori avvertono che il rapido progresso dell’IA potrebbe causare “disagi nel mercato del lavoro e disuguaglianze di potere economico” su scala sistemica.

Alcuni gruppi potrebbero essere colpiti più duramente – ad esempio, alcuni studi indicano che una quota maggiore di lavori occupati da donne o da lavoratori nei paesi in via di sviluppo è a rischio elevato di automazione. Senza misure proattive (come programmi di riqualificazione, formazione sulle competenze IA e reti di sicurezza sociale), l’IA potrebbe ampliare le disparità socioeconomiche, creando un’economia guidata dall’IA in cui chi possiede la tecnologia ottiene la maggior parte dei benefici.

Preparare la forza lavoro all’impatto dell’IA è fondamentale per garantire che i vantaggi dell’automazione siano condivisi ampiamente e per prevenire disordini sociali dovuti alla perdita diffusa di posti di lavoro.

Uso criminale, frodi e minacce alla sicurezza

L’IA è uno strumento potente che può essere utilizzato tanto per scopi nobili quanto per fini illeciti. Cybercriminali e altri attori malintenzionati stanno già sfruttando l’IA per potenziare i loro attacchi.

Ad esempio, l’IA può generare email di phishing altamente personalizzate o messaggi vocali (clonando la voce di qualcuno) per ingannare le persone e far loro rivelare informazioni sensibili o inviare denaro. Può anche essere usata per automatizzare attacchi informatici individuando vulnerabilità software su larga scala o per sviluppare malware che si adatta per sfuggire ai sistemi di rilevamento.

Il Center for AI Safety identifica l’uso malevolo dell’IA come una preoccupazione chiave, citando scenari in cui sistemi di IA sono impiegati da criminali per condurre frodi e attacchi informatici su larga scala. Infatti, un rapporto commissionato dal governo del Regno Unito ha avvertito esplicitamente che “attori malintenzionati possono usare l’IA per campagne di disinformazione e operazioni di influenza su larga scala, frodi e truffe.”

La velocità, la scala e la sofisticazione che l’IA consente potrebbero sopraffare le difese tradizionali – immaginate migliaia di chiamate truffa generate dall’IA o video deepfake che prendono di mira la sicurezza di un’azienda in un solo giorno.

Oltre ai crimini finanziari, esiste anche il rischio che l’IA venga usata per facilitare furto d’identità, molestie o la creazione di contenuti dannosi (come pornografia deepfake non consensuale o propaganda per gruppi estremisti). Con l’aumento dell’accessibilità degli strumenti IA, la soglia per compiere queste attività malevole si abbassa, potenzialmente causando un aumento della criminalità potenziata dall’IA.

Ciò richiede nuovi approcci alla cybersecurity e all’applicazione della legge, come sistemi di IA in grado di rilevare deepfake o comportamenti anomali e quadri normativi aggiornati per responsabilizzare i colpevoli. In sostanza, dobbiamo prevedere che qualsiasi capacità fornita dall’IA ai beneficiari possa essere ugualmente sfruttata dai criminali – e prepararci di conseguenza.

Militarizzazione e armi autonome

Forse il rischio più inquietante dell’IA emerge nel contesto della guerra e della sicurezza nazionale. L’IA viene rapidamente integrata nei sistemi militari, sollevando la prospettiva di armi autonome (“robot assassini”) e decisioni di combattimento guidate dall’IA.

Queste tecnologie potrebbero reagire più rapidamente di qualsiasi umano, ma togliere il controllo umano all’uso della forza letale è estremamente pericoloso. Esiste il rischio che un’arma controllata dall’IA scelga il bersaglio sbagliato o intensifichi i conflitti in modi imprevedibili. Osservatori internazionali avvertono che la “armamento dell’IA per uso militare” è una minaccia in crescita.

Se le nazioni si affrettano a dotare i propri arsenali di armi intelligenti, potrebbe scatenarsi una corsa agli armamenti destabilizzante. Inoltre, l’IA potrebbe essere usata nella guerra informatica per attaccare autonomamente infrastrutture critiche o diffondere propaganda, sfumando la linea tra pace e conflitto.

Le Nazioni Unite hanno espresso preoccupazione che lo sviluppo dell’IA in ambito bellico, se concentrato nelle mani di pochi, “potrebbe essere imposto alle persone senza che esse abbiano voce in capitolo su come viene utilizzata,” minando la sicurezza globale e l’etica.

I sistemi di armi autonome pongono anche dilemmi legali e morali – chi è responsabile se un drone IA uccide per errore civili? Come si conformano tali sistemi al diritto umanitario internazionale?

Queste domande senza risposta hanno portato a richieste di divieti o regolamentazioni severe su alcune armi abilitate dall’IA. Garantire la supervisione umana su qualsiasi IA che possa prendere decisioni di vita o di morte è considerato fondamentale. Senza di essa, il rischio non è solo di errori tragici sul campo di battaglia, ma anche di erosione della responsabilità umana in guerra.

Mancanza di trasparenza e responsabilità

La maggior parte dei sistemi di IA avanzati oggi funziona come “scatole nere” – la loro logica interna è spesso opaca anche per i loro creatori. Questa mancanza di trasparenza crea il rischio che le decisioni dell’IA non possano essere spiegate o contestate, un problema serio in ambiti come giustizia, finanza o sanità, dove la spiegabilità può essere un requisito legale o etico.

Se un’IA nega un prestito, diagnostica una malattia o decide chi può ottenere la libertà condizionale, naturalmente vogliamo sapere perché. Con alcuni modelli di IA (specialmente reti neurali complesse), fornire una motivazione chiara è difficile.

Una “mancanza di trasparenza” può minare la fiducia e “potrebbe anche compromettere la possibilità di contestare efficacemente decisioni basate su risultati prodotti da sistemi di IA,” osserva l’UNESCO, “e quindi violare il diritto a un giusto processo e a un rimedio efficace.”

In altre parole, se né gli utenti né i regolatori possono capire come l’IA prende decisioni, diventa quasi impossibile attribuire responsabilità per errori o pregiudizi che emergono.

Questo divario di responsabilità è un rischio importante: le aziende potrebbero eludere le responsabilità incolpando “l’algoritmo” e gli individui coinvolti potrebbero rimanere senza rimedi. Per contrastare ciò, gli esperti promuovono tecniche di IA spiegabile, audit rigorosi e requisiti normativi affinché le decisioni dell’IA siano tracciabili a un’autorità umana.

Le linee guida etiche globali insistono infatti che debba “essere sempre possibile attribuire la responsabilità etica e legale” del comportamento dei sistemi di IA a una persona o organizzazione. Gli esseri umani devono rimanere in ultima istanza responsabili e l’IA dovrebbe assistere, non sostituire, il giudizio umano in questioni delicate. Altrimenti, rischiamo di creare un mondo in cui decisioni importanti sono prese da macchine insondabili, una ricetta per l’ingiustizia.

Concentrazione del potere e disuguaglianza

La rivoluzione dell’IA non avviene in modo uniforme nel mondo – un piccolo numero di aziende e paesi domina lo sviluppo dell’IA avanzata, con rischi propri.

I modelli di IA all’avanguardia richiedono enormi quantità di dati, talenti e risorse computazionali che solo i giganti tecnologici (e governi ben finanziati) possiedono attualmente. Questo ha portato a una “catena di approvvigionamento altamente concentrata, singolare e integrata a livello globale che favorisce poche aziende e paesi,” secondo il World Economic Forum.

Tale concentrazione del potere nell’IA potrebbe tradursi in un controllo monopolistico sulle tecnologie IA, limitando la concorrenza e la scelta dei consumatori. Solleva anche il pericolo che le priorità di quelle poche aziende o nazioni modellino l’IA in modi che non tengano conto dell’interesse pubblico più ampio.

Le Nazioni Unite hanno osservato il “pericolo che la tecnologia [IA] possa essere imposta alle persone senza che esse abbiano voce in capitolo su come viene utilizzata,” quando lo sviluppo è confinato a pochi potenti.

Questo squilibrio potrebbe aggravare le disuguaglianze globali: nazioni e aziende ricche avanzano sfruttando l’IA, mentre comunità più povere non hanno accesso agli strumenti più recenti e subiscono perdite occupazionali senza godere dei benefici dell’IA. Inoltre, un’industria IA concentrata potrebbe soffocare l’innovazione (se i nuovi entranti non possono competere con le risorse degli incumbents) e rappresentare rischi per la sicurezza (se infrastrutture critiche IA sono controllate da pochi soggetti, diventano un punto unico di fallimento o manipolazione).

Affrontare questo rischio richiede cooperazione internazionale e probabilmente nuove normative per democratizzare lo sviluppo dell’IA – ad esempio, sostenendo la ricerca aperta, garantendo accesso equo a dati e capacità computazionali, e creando politiche (come il proposto AI Act dell’UE) per prevenire pratiche abusive da parte dei “guardiani dell’IA.” Un panorama IA più inclusivo aiuterebbe a garantire che i benefici dell’IA siano condivisi globalmente, anziché ampliare il divario tra chi ha e chi non ha tecnologia.

Impatto ambientale dell’IA

Spesso trascurata nelle discussioni sui rischi dell’IA è la sua impronta ambientale. Lo sviluppo dell’IA, in particolare l’addestramento di grandi modelli di machine learning, consuma enormi quantità di elettricità e potenza di calcolo.

I data center, pieni di migliaia di server energivori, sono necessari per elaborare le enormi quantità di dati da cui i sistemi IA apprendono. Ciò significa che l’IA può contribuire indirettamente alle emissioni di carbonio e ai cambiamenti climatici.

Un recente rapporto di un’agenzia delle Nazioni Unite ha rilevato che le emissioni indirette di carbonio di quattro principali aziende tecnologiche focalizzate sull’IA sono aumentate in media del 150% dal 2020 al 2023, principalmente a causa della domanda energetica dei data center IA.

Con l’aumento degli investimenti nell’IA, si prevede che le emissioni derivanti dall’esecuzione dei modelli IA cresceranno rapidamente – il rapporto stima che i principali sistemi IA potrebbero emettere collettivamente oltre 100 milioni di tonnellate di CO₂ all’anno, mettendo sotto pressione le infrastrutture energetiche.

Per fare un paragone, i data center che alimentano l’IA stanno aumentando il consumo di elettricità “quattro volte più velocemente rispetto all’aumento complessivo del consumo elettrico.”

Oltre alle emissioni di carbonio, l’IA può anche consumare grandi quantità di acqua per il raffreddamento e produrre rifiuti elettronici a causa dell’aggiornamento rapido dell’hardware. Se non controllato, l’impatto ambientale dell’IA potrebbe compromettere gli sforzi globali per la sostenibilità.

Questo rischio richiede di rendere l’IA più efficiente dal punto di vista energetico e di utilizzare fonti di energia più pulite. I ricercatori stanno sviluppando tecniche di IA verde per ridurre il consumo energetico e alcune aziende si sono impegnate a compensare i costi di carbonio dell’IA. Tuttavia, resta una preoccupazione urgente che la corsa all’IA possa avere un pesante prezzo ambientale. Bilanciare il progresso tecnologico con la responsabilità ecologica è un’altra sfida che la società deve affrontare mentre integriamo l’IA ovunque.

Rischi esistenziali e a lungo termine

Oltre ai rischi immediati, alcuni esperti avvertono di rischi più speculativi e a lungo termine derivanti dall’IA – inclusa la possibilità di un’IA avanzata che sfugga al controllo umano. Sebbene i sistemi IA attuali siano limitati nelle loro capacità, i ricercatori stanno lavorando attivamente verso un’IA generale che potrebbe potenzialmente superare gli esseri umani in molti ambiti.

Questo solleva questioni complesse: se un’IA diventasse immensamente più intelligente o autonoma, potrebbe agire in modi che minacciano l’esistenza dell’umanità? Sebbene sembri fantascienza, figure di spicco nel mondo tecnologico hanno espresso preoccupazione per scenari di “IA fuori controllo”, e i governi stanno prendendo sul serio la discussione.

Nel 2023, il Regno Unito ha ospitato un vertice globale sulla sicurezza dell’IA per affrontare i rischi dell’IA di frontiera. Il consenso scientifico non è uniforme – alcuni ritengono che un’IA superintelligente sia lontana decenni o possa essere mantenuta allineata ai valori umani, mentre altri vedono una piccola ma non nulla possibilità di esiti catastrofici.

Il recente rapporto internazionale sulla sicurezza dell’IA ha evidenziato che “gli esperti hanno opinioni diverse sul rischio che l’umanità perda il controllo sull’IA in modo da causare esiti catastrofici.”

In sostanza, si riconosce che il rischio esistenziale dall’IA, per quanto remoto, non può essere completamente escluso. Un tale esito potrebbe coinvolgere un’IA che persegue i propri obiettivi a discapito del benessere umano (l’esempio classico è un’IA che, se programmata male, decide di fare qualcosa di dannoso su larga scala perché priva di buon senso o vincoli morali).

Sebbene nessuna IA oggi abbia un’agenzia a quel livello, il ritmo di avanzamento dell’IA è rapido e imprevedibile, il che rappresenta di per sé un fattore di rischio. Prepararsi ai rischi a lungo termine significa investire nella ricerca sull’allineamento dell’IA (assicurando che gli obiettivi dell’IA rimangano compatibili con i valori umani), stabilire accordi internazionali sulla ricerca IA ad alto rischio (simili ai trattati sulle armi nucleari o biologiche) e mantenere la supervisione umana man mano che i sistemi IA diventano più capaci.

Il futuro dell’IA offre immense promesse, ma anche incertezza – e la prudenza impone di considerare anche rischi a bassa probabilità ma ad alto impatto nella nostra pianificazione a lungo termine.

>>> Clicchi per saperne di più: Vantaggi dell’IA per Privati e Aziende

L’IA è spesso paragonata a un motore potente che può spingere l’umanità avanti – ma senza freni e sterzo, quel motore può deviare dalla rotta. Come abbiamo visto, i rischi dell’uso dell’IA sono molteplici: da problemi immediati come algoritmi parziali, fake news, invasioni della privacy e sconvolgimenti occupazionali, a sfide sociali più ampie come minacce alla sicurezza, decisioni “scatola nera”, monopoli delle Big Tech, pressione ambientale e persino lo spettro lontano di perdere il controllo a favore di un’IA superintelligente.

Questi rischi non significano che dobbiamo fermare lo sviluppo dell’IA; piuttosto, evidenziano l’urgente necessità di governance responsabile dell’IA e pratiche etiche.

Governi, organizzazioni internazionali, leader industriali e ricercatori stanno collaborando sempre più per affrontare queste preoccupazioni – ad esempio, attraverso framework come il AI Risk Management Framework del NIST USA (per migliorare l’affidabilità dell’IA), la Raccomandazione globale sull’etica dell’IA dell’UNESCO e l’AI Act dell’Unione Europea.

Tali sforzi mirano a massimizzare i benefici dell’IA minimizzandone gli aspetti negativi, assicurando che l’IA serva l’umanità e non il contrario. In definitiva, comprendere i rischi dell’IA è il primo passo per gestirli. Rimanendo informati e coinvolti nello sviluppo e nell’uso dell’IA, possiamo contribuire a indirizzare questa tecnologia trasformativa in una direzione sicura, equa e vantaggiosa per tutti.