Les risques liés à l'utilisation de l'IA

L'intelligence artificielle (IA) est désormais intégrée partout, des assistants sur smartphone et flux des réseaux sociaux à la santé et aux transports. Ces technologies apportent des bénéfices sans précédent, mais comportent aussi des risques et défis importants.

Dans cet article, explorons avec INVIAI les risques liés à l'utilisation de l'IA dans tous les domaines et types d'IA – des chatbots et algorithmes aux robots – à partir d'analyses issues de sources officielles et internationales.

Biais et discrimination dans les systèmes d'IA

Un risque majeur de l'IA est l'enracinement des biais et discriminations injustes. Les modèles d'IA apprennent à partir de données qui peuvent refléter des préjugés ou inégalités historiques ; par conséquent, un système d'IA peut traiter différemment les personnes selon la race, le genre ou d'autres caractéristiques, perpétuant ainsi l'injustice.

Une IA généraliste défaillante peut causer des dommages par des décisions biaisées concernant des caractéristiques protégées telles que la race, le genre, la culture, l'âge et le handicap.

— Rapport international sur la sécurité de l'IA

Des organismes mondiaux comme l'UNESCO avertissent que sans mesures d'équité, l'IA risque "de reproduire les biais et discriminations du monde réel, alimentant les divisions et menaçant les droits et libertés fondamentaux". Il est essentiel que les systèmes d'IA soient entraînés sur des données diverses et représentatives et audités pour détecter les biais afin d'éviter la discrimination automatisée.

Biais et discrimination dans les systèmes d'IA

Dangers de la désinformation et des deepfakes

La capacité de l'IA à générer des textes, images et vidéos hyperréalistes suscite la crainte d'une avalanche de désinformation. L'IA générative peut produire de faux articles de presse, images truquées ou vidéos deepfake difficiles à distinguer de la réalité.

En effet, la désinformation alimentée par l'IA constitue l'un des "plus grands défis jamais rencontrés pour le processus démocratique" – surtout avec des milliards de personnes appelées à voter lors des prochaines élections. Les médias synthétiques comme les vidéos deepfake et les voix clonées par IA peuvent être utilisés pour diffuser de la propagande, usurper l'identité de personnalités publiques ou commettre des fraudes.

Les autorités avertissent que des acteurs malveillants peuvent exploiter l'IA pour des campagnes massives de désinformation, facilitant l'inondation des réseaux sociaux de contenus faux et semant le chaos. Le risque est un environnement informationnel cynique où les citoyens ne peuvent plus faire confiance à ce qu'ils voient ou entendent, sapant le débat public et la démocratie.

Dangers de la désinformation et des deepfakes dans l'IA

Menaces pour la vie privée et surveillance de masse

L'utilisation généralisée de l'IA soulève de graves préoccupations en matière de vie privée. Les systèmes d'IA nécessitent souvent d'énormes quantités de données personnelles – de nos visages et voix à nos habitudes d'achat et localisation – pour fonctionner efficacement. Sans protections solides, ces données peuvent être mal utilisées ou exploitées.

Par exemple, la reconnaissance faciale et les algorithmes prédictifs pourraient permettre une surveillance omniprésente, suivant chaque mouvement des individus ou évaluant leur comportement sans consentement.

La vie privée est un droit essentiel à la protection de la dignité humaine, de l'autonomie et de la capacité d'agir, qui doit être respecté tout au long du cycle de vie d'un système d'IA.

— Agences de protection des données

Si le développement de l'IA dépasse les régulations sur la vie privée, les individus pourraient perdre le contrôle de leurs propres informations. La société doit garantir une gouvernance robuste des données, des mécanismes de consentement et des techniques préservant la vie privée pour que les technologies d'IA ne deviennent pas des outils de surveillance incontrôlée.

Menaces pour la vie privée et la surveillance de masse

Défaillances de sécurité et dommages involontaires

Bien que l'IA puisse automatiser des décisions et tâches physiques avec une efficacité surhumaine, elle peut aussi échouer de manière imprévisible, causant des dommages réels. Nous confions à l'IA des responsabilités critiques pour la sécurité – comme la conduite automobile, le diagnostic médical ou la gestion des réseaux électriques – mais ces systèmes ne sont pas infaillibles.

Des bugs, des données d'entraînement erronées ou des situations imprévues peuvent amener une IA à commettre des erreurs dangereuses. L'IA d'une voiture autonome pourrait mal identifier un piéton, ou une IA médicale recommander un traitement inapproprié, avec des conséquences potentiellement mortelles.

Les dommages indésirables (risques de sécurité), ainsi que les vulnérabilités aux attaques (risques de sûreté), doivent être évités et traités tout au long du cycle de vie des systèmes d'IA pour garantir la sécurité humaine, environnementale et des écosystèmes.

— Directives internationales sur l'IA

En d'autres termes, les systèmes d'IA doivent être rigoureusement testés, surveillés et conçus avec des dispositifs de sécurité pour minimiser les risques de défaillance. Une confiance excessive dans l'IA peut aussi être risquée – si les humains acceptent aveuglément les décisions automatisées, ils peuvent ne pas intervenir à temps en cas de problème.

Assurer une supervision humaine est donc essentiel. Dans les usages à fort enjeu (comme la santé ou les transports), les décisions finales doivent rester soumises au jugement humain. Maintenir la sécurité et la fiabilité de l'IA est un défi continu, nécessitant une conception soignée et une culture de responsabilité chez les développeurs d'IA.

Défaillances de sécurité et dommages involontaires dans l'IA

Déplacement d'emplois et perturbations économiques

L'impact transformateur de l'IA sur l'économie est une arme à double tranchant. D'une part, l'IA peut accroître la productivité et créer de nouvelles industries ; d'autre part, elle présente un risque de déplacement de millions de travailleurs par l'automatisation.

De nombreux emplois – notamment ceux impliquant des tâches routinières, répétitives ou des données facilement analysables – sont vulnérables à être remplacés par des algorithmes et robots IA.

Bien que l'économie puisse aussi créer de nouveaux emplois (potentiellement plus nombreux à long terme que ceux perdus), la transition sera douloureuse pour beaucoup. Les emplois créés nécessitent souvent des compétences différentes, plus avancées, ou sont concentrés dans certains pôles technologiques, ce qui rend difficile la reconversion pour de nombreux travailleurs déplacés.

Ce décalage entre les compétences des travailleurs et celles exigées par les nouveaux emplois liés à l'IA pourrait entraîner un chômage accru et des inégalités si rien n'est fait. En effet, les décideurs et chercheurs alertent sur le fait que l'avancée rapide de l'IA pourrait provoquer "des perturbations du marché du travail et des inégalités de pouvoir économique" à grande échelle.

Sans mesures proactives (comme des programmes de reconversion, l'éducation aux compétences IA et des filets de sécurité sociale), l'IA pourrait creuser les écarts socioéconomiques, créant une économie dominée par l'IA où les propriétaires de la technologie récoltent la majorité des bénéfices.

Préparer la main-d'œuvre à l'impact de l'IA est crucial pour garantir que les avantages de l'automatisation soient largement partagés et pour éviter des troubles sociaux dus à la perte massive d'emplois.

Déplacement d'emplois et perturbations économiques dans l'IA

Usage criminel, fraude et menaces à la sécurité

L'IA est un outil puissant qui peut aussi bien être utilisé à des fins néfastes que nobles. Les cybercriminels et autres acteurs malveillants exploitent déjà l'IA pour renforcer leurs attaques.

Par exemple, l'IA peut générer des emails ou messages vocaux de phishing très personnalisés (en clonant la voix de quelqu'un) pour tromper les gens et leur soutirer des informations sensibles ou de l'argent. Elle peut aussi automatiser le piratage en détectant des vulnérabilités logicielles à grande échelle ou développer des malwares adaptatifs échappant à la détection.

Les acteurs malveillants peuvent utiliser l'IA pour des opérations massives de désinformation, d'influence, de fraude et d'escroquerie.

— Rapport commandé par le gouvernement britannique

Le Center for AI Safety identifie l'usage malveillant de l'IA comme une préoccupation majeure, évoquant des scénarios où des systèmes IA sont utilisés par des criminels pour mener fraudes et cyberattaques à grande échelle.

La rapidité, l'ampleur et la sophistication offertes par l'IA pourraient submerger les défenses traditionnelles – imaginez des milliers d'appels frauduleux générés par IA ou des vidéos deepfake ciblant la sécurité d'une entreprise en une seule journée.

À mesure que les outils d'IA deviennent plus accessibles, la barrière à la réalisation de ces activités malveillantes baisse, ce qui pourrait entraîner une hausse de la criminalité augmentée par l'IA.

Cela nécessite de nouvelles approches en cybersécurité et en application de la loi, comme des systèmes IA capables de détecter les deepfakes ou comportements anormaux et des cadres juridiques actualisés pour tenir les auteurs responsables. En somme, il faut anticiper que toute capacité offerte par l'IA aux bienfaiteurs pourrait également être exploitée par les criminels – et s'y préparer en conséquence.

Usage criminel, fraude et menaces à la sécurité dans l'IA

Militarisation et armes autonomes

Peut-être le risque le plus inquiétant de l'IA apparaît dans le contexte de la guerre et de la sécurité nationale. L'IA est rapidement intégrée aux systèmes militaires, soulevant la perspective d'armes autonomes (« robots tueurs ») et de prises de décision pilotées par l'IA au combat.

Ces technologies pourraient réagir plus vite que n'importe quel humain, mais retirer le contrôle humain de l'usage de la force létale est extrêmement dangereux. Il y a un risque qu'une arme contrôlée par IA cible la mauvaise personne ou escalade les conflits de manière imprévue.

Si les nations se lancent dans une course aux armements intelligents, cela pourrait déclencher une course aux armements déstabilisante. De plus, l'IA pourrait être utilisée en cyber-guerre pour attaquer de manière autonome des infrastructures critiques ou diffuser de la propagande, brouillant la frontière entre paix et conflit.

Le développement de l'IA dans la guerre, s'il est concentré entre les mains de quelques-uns, pourrait être imposé aux populations sans qu'elles aient leur mot à dire sur son usage, sapant la sécurité et l'éthique mondiales.

— Nations Unies

Les systèmes d'armes autonomes posent aussi des dilemmes juridiques et moraux – qui est responsable si un drone IA tue par erreur des civils ? Comment ces systèmes respectent-ils le droit international humanitaire ?

Ces questions sans réponse ont conduit à des appels à l'interdiction ou à une régulation stricte de certaines armes dotées d'IA. Assurer une supervision humaine sur toute IA capable de décisions de vie ou de mort est largement considéré comme primordial. Sans cela, le risque n'est pas seulement des erreurs tragiques sur le champ de bataille, mais aussi l'érosion de la responsabilité humaine en temps de guerre.

Militarisation et armes autonomes dans l'IA

Manque de transparence et de responsabilité

La plupart des systèmes d'IA avancés fonctionnent aujourd'hui comme des « boîtes noires » – leur logique interne est souvent opaque même pour leurs créateurs. Ce manque de transparence crée un risque que les décisions de l'IA ne puissent être expliquées ou contestées, ce qui pose un problème sérieux dans des domaines comme la justice, la finance ou la santé où l'explicabilité peut être une exigence légale ou éthique.

Si une IA refuse un prêt, diagnostique une maladie ou décide qui est libéré sous condition, nous voulons naturellement savoir pourquoi. Avec certains modèles d'IA (notamment les réseaux neuronaux complexes), fournir une justification claire est difficile.

Un manque de transparence pourrait aussi compromettre la possibilité de contester efficacement des décisions basées sur les résultats produits par des systèmes d'IA, et ainsi porter atteinte au droit à un procès équitable et à un recours effectif.

— UNESCO

En d'autres termes, si ni les utilisateurs ni les régulateurs ne peuvent comprendre comment l'IA prend ses décisions, il devient presque impossible de tenir quelqu'un responsable des erreurs ou biais qui en découlent.

Pour y remédier, les experts préconisent des techniques d'IA explicable, des audits rigoureux et des exigences réglementaires pour que les décisions de l'IA soient traçables à une autorité humaine.

En effet, les directives éthiques mondiales insistent sur le fait qu'il doit "toujours être possible d'attribuer une responsabilité éthique et juridique" au comportement des systèmes d'IA à une personne ou organisation. Les humains doivent rester ultimement responsables, et l'IA doit assister plutôt que remplacer le jugement humain dans les domaines sensibles. Sinon, nous risquons de créer un monde où des décisions importantes sont prises par des machines obscures, ce qui est une recette pour l'injustice.

Manque de transparence et de responsabilité dans l'utilisation de l'IA au travail

Concentration du pouvoir et inégalités

La révolution de l'IA ne se déroule pas de manière uniforme dans le monde – un petit nombre d'entreprises et de pays dominent le développement de l'IA avancée, ce qui comporte ses propres risques.

Les modèles d'IA de pointe nécessitent d'énormes quantités de données, de talents et de ressources informatiques que seuls les géants technologiques (et des gouvernements bien financés) possèdent actuellement.

Cela a conduit à une chaîne d'approvisionnement hautement concentrée, singulière et intégrée à l'échelle mondiale, favorisant quelques entreprises et pays.

— Forum économique mondial

Cette concentration du pouvoir de l'IA pourrait se traduire par un contrôle monopolistique des technologies d'IA, limitant la concurrence et le choix des consommateurs. Elle soulève aussi le danger que les priorités de ces quelques entreprises ou nations façonnent l'IA d'une manière qui ne prend pas en compte l'intérêt public plus large.

Ce déséquilibre pourrait aggraver les inégalités mondiales : les nations et entreprises riches prennent de l'avance en exploitant l'IA, tandis que les communautés plus pauvres n'ont pas accès aux outils les plus récents et subissent des pertes d'emplois sans bénéficier des avantages de l'IA.

De plus, une industrie de l'IA concentrée pourrait freiner l'innovation (si les nouveaux entrants ne peuvent rivaliser avec les ressources des acteurs établis) et poser des risques de sécurité (si les infrastructures critiques d'IA sont contrôlées par peu d'entités, elles deviennent un point unique de défaillance ou de manipulation).

Pour répondre à ce risque, une coopération internationale et possiblement de nouvelles régulations sont nécessaires pour démocratiser le développement de l'IA – par exemple, en soutenant la recherche ouverte, en garantissant un accès équitable aux données et à la puissance de calcul, et en élaborant des politiques (comme le projet de loi européen sur l'IA) pour prévenir les pratiques abusives des « gardiens de l'IA ». Un paysage IA plus inclusif aiderait à garantir que les bénéfices de l'IA soient partagés globalement, plutôt que d'élargir le fossé entre les privilégiés et les exclus technologiques.

Concentration du pouvoir et inégalités

Impact environnemental de l'IA

Souvent négligée dans les discussions sur les risques de l'IA, son empreinte environnementale est pourtant importante. Le développement de l'IA, en particulier l'entraînement de grands modèles d'apprentissage automatique, consomme d'énormes quantités d'électricité et de puissance de calcul.

Les centres de données, remplis de milliers de serveurs gourmands en énergie, sont nécessaires pour traiter les torrents de données dont les systèmes d'IA apprennent. Cela signifie que l'IA peut indirectement contribuer aux émissions de carbone et au changement climatique.

Avec la croissance des investissements dans l'IA, les émissions liées à l'exécution des modèles IA devraient fortement augmenter – le rapport prévoit que les principaux systèmes IA pourraient émettre collectivement plus de 100 millions de tonnes de CO₂ par an, mettant une pression significative sur les infrastructures énergétiques.

Pour mettre cela en perspective, les centres de données alimentant l'IA font augmenter la consommation électrique "quatre fois plus vite que la hausse globale de la consommation d'électricité".

Outre les émissions de carbone, l'IA peut aussi consommer beaucoup d'eau pour le refroidissement et produire des déchets électroniques liés aux mises à niveau rapides du matériel. Si ce phénomène n'est pas maîtrisé, l'impact environnemental de l'IA pourrait compromettre les efforts mondiaux de durabilité.

Ce risque appelle à rendre l'IA plus économe en énergie et à utiliser des sources d'énergie plus propres. Les chercheurs développent des techniques d'IA verte pour réduire la consommation électrique, et certaines entreprises se sont engagées à compenser le coût carbone de l'IA. Néanmoins, il reste une préoccupation majeure que la course à l'IA puisse avoir un lourd tribut environnemental. Trouver un équilibre entre progrès technologique et responsabilité écologique est un autre défi que la société doit relever en intégrant l'IA partout.

Impact environnemental de l'IA

Risques existentiels et à long terme

Au-delà des risques immédiats, certains experts alertent sur des risques plus spéculatifs et à long terme liés à l'IA – notamment la possibilité d'une IA avancée échappant au contrôle humain. Alors que les systèmes IA actuels sont spécialisés, les chercheurs travaillent activement à une IA générale qui pourrait potentiellement surpasser les humains dans de nombreux domaines.

Cela soulève des questions complexes : si une IA devenait beaucoup plus intelligente ou autonome, pourrait-elle agir de manière à menacer l'existence de l'humanité ? Bien que cela semble relever de la science-fiction, des figures éminentes du secteur technologique ont exprimé leurs inquiétudes sur des scénarios de « IA hors de contrôle », et les gouvernements prennent ce sujet au sérieux.

Les experts ont des avis divergents sur le risque que l'humanité perde le contrôle de l'IA au point d'aboutir à des conséquences catastrophiques.

— Rapport international sur la sécurité de l'IA

Le consensus scientifique n'est pas uniforme – certains estiment que l'IA super-intelligente est à des décennies ou peut être alignée sur les valeurs humaines, tandis que d'autres voient une petite mais non nulle probabilité de résultats catastrophiques.

En substance, il est reconnu que le risque existentiel lié à l'IA, aussi faible soit-il, ne peut être totalement écarté. Un tel scénario pourrait impliquer une IA poursuivant ses objectifs au détriment du bien-être humain (l'exemple classique étant une IA mal programmée qui décide de faire quelque chose de nuisible à grande échelle faute de contraintes morales ou de bon sens).

Bien qu'aucune IA actuelle ne possède une telle autonomie, le rythme rapide et imprévisible des avancées en IA constitue en soi un facteur de risque.

Se préparer aux risques à long terme signifie investir dans la recherche sur l'alignement de l'IA (pour que ses objectifs restent compatibles avec les valeurs humaines), établir des accords internationaux sur la recherche IA à enjeux élevés (à l'instar des traités sur les armes nucléaires ou biologiques), et maintenir la supervision humaine à mesure que les systèmes IA gagnent en capacités.

L'avenir de l'IA recèle un immense potentiel, mais aussi une incertitude – et la prudence impose de considérer même les risques à faible probabilité mais à fort impact dans notre planification à long terme.

Risques existentiels et à long terme dans l'IA

Naviguer l'avenir de l'IA de manière responsable

L'IA est souvent comparée à un moteur puissant pouvant propulser l'humanité vers l'avant – mais sans freins ni direction, ce moteur peut dévier de sa trajectoire. Comme nous l'avons vu, les risques liés à l'utilisation de l'IA sont multiformes : des problèmes immédiats comme les algorithmes biaisés, les fausses informations, les atteintes à la vie privée et les bouleversements de l'emploi, aux défis sociétaux plus larges tels que les menaces à la sécurité, la prise de décision en « boîte noire », les monopoles des géants du numérique, la pression environnementale, et même le spectre lointain de la perte de contrôle face à une IA super-intelligente.

Les gouvernements, organisations internationales, leaders industriels et chercheurs collaborent de plus en plus pour répondre à ces préoccupations – par exemple, via des cadres tels que :

• Le cadre de gestion des risques IA du NIST américain (pour améliorer la confiance dans l'IA)
• La recommandation mondiale sur l'éthique de l'IA de l'UNESCO
• Le règlement européen sur l'IA

Ces efforts visent à maximiser les bénéfices de l'IA tout en minimisant ses inconvénients, garantissant que l'IA serve l'humanité et non l'inverse.