L’IA è pericolosa?

L’Intelligenza Artificiale (IA) si riferisce a sistemi informatici che imitano l’intelligenza umana – per esempio, programmi in grado di riconoscere immagini, comprendere il linguaggio o prendere decisioni. Nella vita quotidiana, l’IA alimenta strumenti come gli assistenti vocali sugli smartphone, i sistemi di raccomandazione sui social media e persino chatbot avanzati che scrivono testi.

L’IA ha il potenziale per migliorare notevolmente molti settori, ma solleva anche molte preoccupazioni.

Quindi, l’IA è pericolosa? Questo articolo esplorerà entrambi i lati: i reali benefici che l’IA offre e i pericoli evidenziati dagli esperti.

Benefici concreti dell’IA

Immagine: Una rappresentazione amichevole di robot e una persona che lavorano insieme simboleggia l’IA che assiste gli esseri umani. L’IA è già integrata in molte applicazioni utili.

Per esempio, l’UNESCO sottolinea che l’IA “ha creato molte opportunità” a livello globale – da diagnosi mediche più rapide a una migliore connettività tramite i social media e all’automatizzazione di compiti noiosi sul lavoro.

Anche l’Unione Europea evidenzia che “un’IA affidabile può portare molti benefici” come una sanità migliore, trasporti più sicuri e un’industria e un uso dell’energia più efficienti. In campo medico, l’Organizzazione Mondiale della Sanità riporta che l’IA viene utilizzata per diagnosi, sviluppo di farmaci e risposta alle epidemie, invitando i Paesi a promuovere queste innovazioni per tutti.

Gli economisti paragonano persino la rapida diffusione dell’IA alle rivoluzioni tecnologiche del passato.

Per esempio, il governo degli Stati Uniti sottolinea che “l’IA possiede un potenziale straordinario sia di promesse che di rischi”, il che significa che dovremmo sfruttare la sua potenza per risolvere problemi come il cambiamento climatico o le malattie, pur essendo consapevoli dei rischi.

I principali benefici dell’IA includono:

• Miglioramento della sanità: i sistemi di IA possono analizzare radiografie, risonanze magnetiche e dati dei pazienti più velocemente degli esseri umani, aiutando nella diagnosi precoce delle malattie e nei trattamenti personalizzati. Per esempio, l’imaging assistito dall’IA può individuare tumori che i medici potrebbero non rilevare.
• Maggiore efficienza: i processi automatizzati in fabbriche, uffici e servizi aumentano la produttività. Come sottolinea l’UE, l’automazione guidata dall’IA porta a “una produzione più efficiente” e persino a reti energetiche più intelligenti.
  I robot e i software si occupano delle attività ripetitive, permettendo agli esseri umani di concentrarsi su lavori creativi o complessi.
• Trasporti e servizi più sicuri: La tecnologia delle auto a guida autonoma e l’IA per la gestione del traffico mirano a ridurre incidenti e congestioni. L’IA intelligente può anche migliorare i sistemi di allerta per disastri e ottimizzare la logistica, rendendo viaggi e spedizioni più sicuri.
• Supporto scientifico e ambientale: i ricercatori utilizzano l’IA per elaborare modelli climatici e dati genetici. Questo aiuta ad affrontare grandi sfide come il cambiamento climatico: l’UNESCO riporta che anche piccoli cambiamenti nel design dell’IA possono ridurre drasticamente il suo consumo energetico, rendendola uno strumento più sostenibile per il clima.
• Istruzione e accessibilità: i tutor basati su IA possono personalizzare l’apprendimento per ogni studente, e gli strumenti di riconoscimento vocale o traduzione aiutano le persone con disabilità. Britannica osserva che l’IA  “aiuta i gruppi emarginati offrendo accessibilità” (ad esempio, assistenti di lettura per non vedenti).

Questi esempi dimostrano che l’IA non è solo fantascienza – offre già oggi un valore reale.

Rischi e pericoli potenziali dell’IA

Immagine: Un’opera di street art con la parola “Robot” avverte degli effetti sconosciuti dell’IA. Nonostante le sue promesse, molti esperti mettono in guardia sul fatto che l’IA può essere pericolosa se usata impropriamente o lasciata senza controllo. Una preoccupazione importante è il pregiudizio e la discriminazione. Poiché l’IA apprende dai dati esistenti, può ereditare i pregiudizi umani.

L’UNESCO avverte che senza una rigorosa etica, l’IA “rischia di riprodurre pregiudizi e discriminazioni reali, alimentando divisioni e minacciando i diritti e le libertà fondamentali dell’uomo”. Infatti, studi hanno dimostrato che il riconoscimento facciale spesso identifica erroneamente donne o persone di colore, e gli algoritmi di assunzione possono favorire certi generi.

Anche Britannica osserva che l’IA può “danneggiare le minoranze razziali ripetendo e aggravando il razzismo”.

Altri pericoli includono:

• Privacy e sorveglianza: i sistemi di IA spesso richiedono enormi quantità di dati personali (post sui social media, cartelle cliniche, ecc.). Questo aumenta il rischio di abusi. Se governi o aziende usano l’IA per analizzare i suoi dati senza consenso, può portare a una sorveglianza invasiva.
  
  Britannica avverte di “rischi per la privacy pericolosi” derivanti dall’IA. Per esempio, un uso controverso dell’IA chiamato social credit scoring – dove i cittadini sono valutati da algoritmi – è stato vietato dall’UE come pratica “inaccettabile”.
  Anche chatbot noti hanno suscitato preoccupazioni: nel 2023 l’Italia ha bloccato temporaneamente ChatGPT per questioni di privacy dei dati.

• Disinformazione e deepfake: l’IA può generare testi, immagini o video falsi ma realistici. Questo facilita la creazione di deepfake – video falsi di celebrità o notizie inventate.
  
  Britannica sottolinea che l’IA può diffondere “disinformazione politicizzata e persino pericolosa”. Gli esperti hanno avvertito che tali falsificazioni potrebbero essere usate per manipolare elezioni o l’opinione pubblica.
  
  In un caso, immagini generate dall’IA di leader mondiali che diffondevano notizie false sono diventate virali prima di essere smentite. Gli scienziati osservano che senza regolamentazione, la disinformazione guidata dall’IA potrebbe aumentare (per esempio, discorsi falsi o immagini manipolate che nessuna legge attuale è pronta a controllare).

• Perdita di posti di lavoro e disagi economici: automatizzando compiti, l’IA trasformerà il mondo del lavoro. Il Fondo Monetario Internazionale riporta che circa il 40% dei lavori a livello globale (e il 60% nei Paesi sviluppati) è “esposto” all’automazione tramite IA. Questo include non solo lavori in fabbrica ma anche professioni della classe media come contabilità o scrittura.
  Pur potendo aumentare la produttività (con un possibile aumento dei salari nel lungo termine), molti lavoratori potrebbero aver bisogno di nuova formazione o rischiare la disoccupazione nel breve periodo.
  I leader tecnologici riconoscono questa preoccupazione: persino l’amministratore delegato di Microsoft ha detto che l’IA potrebbe sostituire improvvisamente professionisti qualificati.

• Sicurezza e uso malevolo: come qualsiasi tecnologia, l’IA può essere usata per scopi dannosi. I cybercriminali già impiegano l’IA per creare email di phishing convincenti o per scansionare sistemi alla ricerca di vulnerabilità.
  
  Gli esperti militari temono le armi autonome: droni o robot che selezionano obiettivi senza approvazione umana.
  Un recente rapporto di ricercatori di IA avverte esplicitamente che mancano istituzioni per fermare “attori irresponsabili... che potrebbero impiegare o sviluppare capacità in modi pericolosi”, come sistemi di attacco autonomi.
  
  In altre parole, un sistema di IA con controllo fisico (come un’arma) potrebbe essere particolarmente pericoloso se malfunzionante o programmato con intenti malevoli.

• Perdita del controllo umano: alcuni pensatori sottolineano che se l’IA diventasse molto più potente di oggi, potrebbe agire in modi imprevedibili. Sebbene l’IA attuale non sia cosciente o autocosciente, una futura IA generale (AGI) potrebbe potenzialmente perseguire obiettivi non allineati ai valori umani.
  
  Scienziati di spicco dell’IA hanno recentemente avvertito che “sistemi di IA generalisti altamente potenti” potrebbero comparire nel prossimo futuro se non ci prepariamo.
  
  Il premio Nobel Geoffrey Hinton e altri esperti hanno persino descritto un rischio crescente che l’IA possa danneggiare l’umanità se non allineata ai nostri bisogni. Sebbene questo rischio sia incerto, ha motivato appelli di alto profilo alla cautela.

• Impatto energetico e ambientale: allenare e far funzionare grandi modelli di IA consuma molta elettricità. L’UNESCO riporta che il consumo energetico annuo dell’IA generativa ora è paragonabile a quello di un piccolo Paese africano – e sta crescendo rapidamente.
  
  Questo potrebbe aggravare il cambiamento climatico a meno che non si adottino metodi più ecologici.
  
  La buona notizia è che i ricercatori stanno trovando soluzioni: uno studio UNESCO mostra che usare modelli più piccoli ed efficienti per compiti specifici può ridurre il consumo energetico dell’IA del 90% senza perdere precisione.

In sintesi, i pericoli reali dell’IA oggi derivano principalmente da come le persone la utilizzano. Se l’IA è gestita con attenzione, i suoi benefici (salute, comodità, sicurezza) sono enormi.

Ma se lasciata senza controllo, l’IA potrebbe favorire pregiudizi, crimini e incidenti.

Il filo conduttore di questi pericoli è la mancanza di controllo o supervisione: gli strumenti di IA sono potenti e veloci, quindi errori o abusi possono avvenire su larga scala a meno che non si intervenga.

Cosa dicono esperti e autorità

Considerati questi temi, molti leader e ricercatori si sono espressi. Negli ultimi anni si è formato un ampio consenso tra gli esperti di IA.

Nel 2024, un gruppo di 25 tra i migliori scienziati di IA (dall’Oxford, Berkeley, vincitori del premio Turing, ecc.) ha pubblicato una dichiarazione di consenso che invita ad agire con urgenza.

Hanno avvertito i governi mondiali di prepararsi subito: “se sottovalutiamo i rischi dell’IA, le conseguenze potrebbero essere catastrofiche”, e hanno sollecitato finanziamenti per la sicurezza dell’IA e la creazione di organismi regolatori per supervisionare l’IA potente.

Hanno sottolineato che lo sviluppo dell’IA è corso avanti “con la sicurezza come pensiero secondario” e che attualmente mancano istituzioni per prevenire applicazioni fuori controllo.

I leader tecnologici condividono questa cautela. Il CEO di OpenAI, Sam Altman – la cui azienda ha creato ChatGPT – ha detto a The New York Times che costruire un’IA avanzata è come un “Progetto Manhattan” per l’era digitale.

Ha ammesso che gli stessi strumenti che possono scrivere saggi o codice potrebbero anche causare “abusi, incidenti drastici e disordini sociali” se non gestiti con cura.

Alla fine del 2023, oltre 1.000 professionisti dell’IA (inclusi Elon Musk, il cofondatore di Apple Steve Wozniak e molti ricercatori di IA) hanno firmato una lettera aperta chiedendo una pausa nell’addestramento dei modelli di IA di nuova generazione.

Hanno avvertito che siamo in una “corsa fuori controllo” per costruire IA più potenti che persino i loro creatori “non possono comprendere, prevedere o controllare in modo affidabile”.

Nei forum pubblici, gli esperti hanno evidenziato rischi specifici. Il CEO di Google DeepMind, Demis Hassabis, ha sostenuto che la minaccia maggiore non è la disoccupazione ma l’abuso: un cybercriminale o uno Stato canaglia che usa l’IA per danneggiare la società.

Ha sottolineato che molto presto l’IA potrebbe eguagliare o superare l’intelligenza umana, e “un attore malintenzionato potrebbe riutilizzare le stesse tecnologie per fini dannosi”.

In altre parole, anche se gestiamo la perdita di posti di lavoro, dobbiamo impedire che gli strumenti di IA finiscano nelle mani sbagliate.

Governi e organismi internazionali stanno prendendo atto. La Casa Bianca (USA) ha emesso un ordine esecutivo nel 2023 affermando che l’IA “possiede un potenziale straordinario sia di promesse che di rischi” e chiedendo “un uso responsabile dell’IA” attraverso uno sforzo collettivo per mitigare i suoi rischi sostanziali.

L’Unione Europea ha approvato la prima legge sull’IA al mondo (efficace dal 2024), vietando pratiche pericolose come il social scoring governativo e richiedendo test rigorosi per l’IA ad alto rischio (in sanità, forze dell’ordine, ecc.).

L’UNESCO (agenzia ONU per l’educazione e la cultura) ha pubblicato raccomandazioni etiche globali sull’IA che promuovono equità, trasparenza e tutela dei diritti umani.

Persino organizzazioni di scienza e politica come il NIST (Istituto Nazionale di Standard USA) hanno rilasciato un Quadro di Gestione del Rischio IA per guidare le aziende nella costruzione di IA affidabili.

Tutte queste voci concordano su un punto: l’IA non si fermerà da sola. Dobbiamo sviluppare salvaguardie. Questo implica soluzioni tecniche (audit sui pregiudizi, test di sicurezza) e nuove leggi o organismi di controllo.

Per esempio, i legislatori di tutto il mondo stanno valutando la creazione di consigli per la sicurezza dell’IA, simili a quelli per la tecnologia nucleare.

L’obiettivo non è fermare l’innovazione, ma assicurarsi che avvenga secondo linee guida attente.

Salvaguardie e regolamentazione

Fortunatamente, molte soluzioni sono già in atto. L’idea chiave è “sicurezza dell’IA fin dalla progettazione”. Le aziende integrano sempre più regole etiche nello sviluppo dell’IA.

Per esempio, i laboratori di IA testano i modelli per i pregiudizi prima del rilascio e aggiungono filtri per evitare contenuti espliciti o falsi. Governi e istituzioni stanno codificando queste pratiche.

La legge sull’IA dell’UE, per esempio, vieta certi usi pericolosi e classifica altri come “ad alto rischio” (soggetti a controlli).

Analogamente, il quadro etico dell’UNESCO per l’IA richiede misure come audit di equità, protezioni di cybersicurezza e processi accessibili per reclami.

A livello pratico, gli enti di normazione rilasciano linee guida.

Il quadro NIST degli USA fornisce standard volontari per aiutare le organizzazioni a valutare e mitigare i rischi dell’IA.

A livello internazionale, gruppi come l’OCSE e l’ONU lavorano su principi per l’IA (molti Paesi li hanno sottoscritti).

Anche aziende e università stanno creando istituti e coalizioni per la sicurezza dell’IA per studiare i rischi a lungo termine.

Inoltre, molte normative attuali affrontano danni specifici.

Per esempio, le leggi a tutela dei consumatori vengono applicate all’IA.

Documenti interni di Meta hanno rivelato chatbot IA che flirtavano con bambini, suscitando indignazione tra i regolatori (lo strumento di Meta non era consentito dalle leggi esistenti sulla protezione dei minori).

Le autorità stanno affrettandosi ad aggiornare le leggi su discorsi d’odio, copyright e privacy per includere contenuti generati dall’IA.

Come ha osservato un esperto neozelandese, molte leggi attuali “non sono state progettate pensando all’IA generativa”, quindi i legislatori stanno recuperando il ritardo.

La tendenza generale è chiara: l’IA viene trattata come altre tecnologie a doppio uso.

Proprio come abbiamo leggi sul traffico per le auto o standard di sicurezza per i prodotti chimici, la società sta iniziando a creare parapetti per l’IA.

Questi includono: ricerca continua sui rischi dell’IA, cooperazione pubblico-privato sulla sicurezza, campagne educative sui deepfake e persino referendum per chiedere ai cittadini quanta autonomia concedere alle macchine.

>>>Per saperne di più:

L'IA sostituirà l'essere umano?

L’IA pensa come gli esseri umani?

Quindi, l’IA è pericolosa? La risposta è sfumata. L’IA non è intrinsecamente malvagia – è uno strumento creato dall’uomo.

Nelle sue molte forme pratiche odierne, ha portato enormi benefici alla medicina, all’istruzione, all’industria e altro ancora (come evidenziato da organizzazioni come UNESCO e UE).

Allo stesso tempo, quasi tutti concordano che l’IA può essere pericolosa se la sua potenza viene usata impropriamente o lasciata senza guida.

Le preoccupazioni comuni includono violazioni della privacy, pregiudizi, disinformazione, sconvolgimenti lavorativi e il rischio ipotetico di una superintelligenza fuori controllo.

I giovani che imparano sull’IA dovrebbero concentrarsi su entrambi gli aspetti. È saggio essere consapevoli dei pericoli reali: per esempio, non fidarsi mai ciecamente dell’IA o condividere dati privati senza cautela.

Ma è anche importante vedere che esperti e governi stanno lavorando attivamente per rendere l’IA più sicura – sviluppando leggi (come la legge UE sull’IA), linee guida (come le raccomandazioni etiche UNESCO) e tecnologie (come il rilevamento dei pregiudizi) per intercettare i problemi precocemente.

In breve, l’IA è come qualsiasi tecnologia potente: può fare molto bene se usata responsabilmente, e causare danni se usata impropriamente.

Il consenso tra scienziati e decisori politici è che non dobbiamo né alimentare paure né ignorare l’IA, ma restare informati e coinvolti nel plasmare il suo futuro.

Con i giusti “parapetti” in atto – sviluppo etico dell’IA, regolamentazione robusta e consapevolezza pubblica – possiamo guidare l’IA verso la sicurezza e assicurarci che porti benefici all’umanità senza diventare pericolosa.