L’intelligence artificielle (IA) est désormais intégrée dans tout, des assistants sur smartphone et des flux des réseaux sociaux aux secteurs de la santé et des transports. Ces technologies offrent des bénéfices sans précédent, mais comportent aussi des risques et défis majeurs.

Les experts et institutions mondiales alertent que sans garde-fous éthiques appropriés, l’IA peut reproduire les biais et discriminations du monde réel, contribuer aux dommages environnementaux, menacer les droits humains et amplifier les inégalités existantes.

Dans cet article, explorons avec INVIAI les risques liés à l’utilisation de l’IA dans tous les domaines et types d’IA – des chatbots et algorithmes aux robots – en nous appuyant sur les analyses de sources officielles et internationales.

Biais et discriminations dans les systèmes d’IA

Un risque majeur de l’IA est l’enracinement des biais et discriminations injustes. Les modèles d’IA apprennent à partir de données qui peuvent refléter des préjugés ou inégalités historiques ; par conséquent, un système d’IA peut traiter différemment les personnes selon leur race, genre ou autres caractéristiques, perpétuant ainsi l’injustice.

Par exemple, « une IA généraliste défaillante peut causer des préjudices par des décisions biaisées concernant des caractéristiques protégées telles que la race, le genre, la culture, l’âge et le handicap », selon un rapport international sur la sécurité de l’IA.

Des algorithmes biaisés utilisés dans le recrutement, le crédit ou la police ont déjà conduit à des résultats inéquitables désavantageant certains groupes. Des organismes mondiaux comme l’UNESCO mettent en garde que sans mesures d’équité, l’IA risque « de reproduire les biais et discriminations du monde réel, d’alimenter les divisions et de menacer les droits et libertés fondamentaux ». Il est essentiel que les systèmes d’IA soient entraînés sur des données diverses et représentatives et audités pour détecter les biais afin d’éviter toute discrimination automatisée.

Dangers de la désinformation et des deepfakes

La capacité de l’IA à générer des textes, images et vidéos hyperréalistes suscite des craintes d’une avalanche de désinformation. L’IA générative peut produire de faux articles de presse, images truquées ou vidéos deepfake difficiles à distinguer de la réalité.

Le Rapport sur les risques mondiaux 2024 du Forum économique mondial identifie « l’information manipulée et falsifiée » comme le risque global à court terme le plus grave, soulignant que l’IA « amplifie les informations manipulées et déformées qui pourraient déstabiliser les sociétés ».

En effet, la désinformation alimentée par l’IA représente l’un des « plus grands défis jamais rencontrés par le processus démocratique », notamment avec des milliards de personnes appelées à voter lors des prochaines élections. Les médias synthétiques comme les vidéos deepfake et les voix clonées par IA peuvent être utilisés pour diffuser de la propagande, usurper l’identité de personnalités publiques ou commettre des fraudes.

Les autorités avertissent que des acteurs malveillants peuvent exploiter l’IA pour des campagnes massives de désinformation, facilitant l’inondation des réseaux sociaux de contenus faux et semant le chaos. Le risque est un environnement informationnel cynique où les citoyens ne peuvent plus faire confiance à ce qu’ils voient ou entendent, sapant le débat public et la démocratie.

Menaces pour la vie privée et surveillance de masse

L’utilisation généralisée de l’IA soulève de sérieuses préoccupations en matière de vie privée. Les systèmes d’IA nécessitent souvent d’énormes quantités de données personnelles – de nos visages et voix à nos habitudes d’achat et localisation – pour fonctionner efficacement. Sans protections solides, ces données peuvent être détournées ou exploitées.

Par exemple, la reconnaissance faciale et les algorithmes prédictifs pourraient permettre une surveillance omniprésente, suivant chaque mouvement des individus ou évaluant leur comportement sans consentement. La recommandation mondiale de l’UNESCO sur l’éthique de l’IA avertit explicitement que « les systèmes d’IA ne doivent pas être utilisés à des fins de notation sociale ou de surveillance de masse ». De telles utilisations sont largement considérées comme des risques inacceptables.

De plus, l’analyse des données personnelles par l’IA peut révéler des détails intimes sur nos vies, de notre état de santé à nos convictions politiques, menaçant le droit à la vie privée. Les autorités de protection des données insistent sur le fait que la vie privée est « un droit essentiel à la protection de la dignité humaine, de l’autonomie et de la capacité d’agir » qui doit être respecté tout au long du cycle de vie d’un système d’IA.

Si le développement de l’IA dépasse les régulations sur la vie privée, les individus pourraient perdre le contrôle de leurs propres informations. La société doit garantir une gouvernance robuste des données, des mécanismes de consentement et des techniques préservant la confidentialité afin que les technologies d’IA ne deviennent pas des outils de surveillance incontrôlée.

Défaillances de sécurité et dommages involontaires

Bien que l’IA puisse automatiser des décisions et tâches physiques avec une efficacité surhumaine, elle peut aussi échouer de manière imprévisible, causant des dommages réels. Nous confions à l’IA des responsabilités toujours plus critiques pour la sécurité – comme la conduite automobile, le diagnostic médical ou la gestion des réseaux électriques – mais ces systèmes ne sont pas infaillibles.

Des bugs, des données d’entraînement erronées ou des situations imprévues peuvent amener une IA à commettre des erreurs dangereuses. L’IA d’une voiture autonome pourrait mal identifier un piéton, ou une IA médicale recommander un traitement inapproprié, avec des conséquences potentiellement mortelles.

Conscients de cela, les directives internationales insistent sur le fait que les dommages indésirables et risques pour la sécurité liés à l’IA doivent être anticipés et évités : « Les dommages indésirables (risques pour la sécurité), ainsi que les vulnérabilités aux attaques (risques pour la sûreté), doivent être évités et traités tout au long du cycle de vie des systèmes d’IA afin d’assurer la sécurité des personnes, de l’environnement et des écosystèmes. »

Autrement dit, les systèmes d’IA doivent être rigoureusement testés, surveillés et conçus avec des dispositifs de sécurité pour minimiser les risques de dysfonctionnements. Une confiance excessive dans l’IA peut aussi être risquée – si les humains acceptent aveuglément les décisions automatisées, ils peuvent ne pas intervenir à temps en cas de problème.

Assurer une supervision humaine est donc crucial. Dans les usages à enjeux élevés (comme la santé ou les transports), les décisions finales doivent rester soumises au jugement humain, et comme le souligne l’UNESCO, « les décisions de vie ou de mort ne doivent pas être confiées aux systèmes d’IA ». Maintenir la sécurité et la fiabilité de l’IA est un défi permanent, nécessitant une conception rigoureuse et une culture de responsabilité chez les développeurs.

Perte d’emplois et perturbations économiques

L’impact transformateur de l’IA sur l’économie est une arme à double tranchant. D’un côté, l’IA peut accroître la productivité et créer de nouvelles industries ; de l’autre, elle présente un risque de suppression de millions d’emplois par l’automatisation.

De nombreux emplois – notamment ceux impliquant des tâches routinières, répétitives ou des données facilement analysables – sont vulnérables à la prise en charge par des algorithmes et robots IA. Les prévisions mondiales sont alarmantes : par exemple, le Forum économique mondial estime que « quatre-vingt-douze millions d’emplois pourraient être supprimés d’ici 2030 » en raison de l’IA et des technologies associées.

Si l’économie peut aussi créer de nouveaux emplois (potentiellement plus nombreux à long terme), la transition sera douloureuse pour beaucoup. Les emplois créés requièrent souvent des compétences différentes, plus avancées, ou sont concentrés dans certains pôles technologiques, ce qui rend difficile la reconversion des travailleurs déplacés.

Ce décalage entre les compétences des travailleurs et celles exigées par les nouveaux emplois liés à l’IA pourrait entraîner une hausse du chômage et des inégalités si aucune mesure n’est prise. En effet, les décideurs et chercheurs alertent sur le risque d’« une perturbation du marché du travail et des inégalités de pouvoir économique » à grande échelle.

Certains groupes pourraient être plus durement touchés – par exemple, certaines études indiquent qu’une part plus importante d’emplois occupés par des femmes ou des travailleurs dans les pays en développement est exposée à un risque élevé d’automatisation. Sans mesures proactives (reconversion, formation aux compétences IA, filets sociaux), l’IA pourrait creuser les écarts socioéconomiques, créant une économie dominée par ceux qui possèdent la technologie.

Préparer la main-d’œuvre à l’impact de l’IA est essentiel pour garantir que les bénéfices de l’automatisation soient largement partagés et éviter des troubles sociaux liés à la perte massive d’emplois.

Mauvaise utilisation criminelle, fraude et menaces à la sécurité

L’IA est un outil puissant qui peut aussi bien être utilisé à des fins malveillantes que nobles. Les cybercriminels et autres acteurs malintentionnés exploitent déjà l’IA pour renforcer leurs attaques.

Par exemple, l’IA peut générer des courriels de phishing ou messages vocaux hautement personnalisés (en clonant la voix d’une personne) pour tromper les victimes et leur soutirer des informations sensibles ou de l’argent. Elle peut aussi automatiser le piratage en détectant à grande échelle des vulnérabilités logicielles ou développer des malwares adaptatifs pour échapper à la détection.

Le Center for AI Safety identifie l’usage malveillant de l’IA comme une préoccupation majeure, évoquant des scénarios où des systèmes d’IA sont utilisés par des criminels pour mener fraudes et cyberattaques à grande échelle. Un rapport commandé par le gouvernement britannique avertit explicitement que « des acteurs malveillants peuvent utiliser l’IA pour des campagnes massives de désinformation, d’influence, de fraude et d’arnaques ».

La rapidité, l’ampleur et la sophistication permises par l’IA pourraient submerger les défenses traditionnelles – imaginez des milliers d’appels frauduleux générés par IA ou de vidéos deepfake ciblant la sécurité d’une entreprise en une seule journée.

Au-delà des crimes financiers, l’IA peut aussi faciliter le vol d’identité, le harcèlement ou la création de contenus nuisibles (comme la pornographie deepfake non consentie ou la propagande extrémiste). À mesure que les outils d’IA deviennent plus accessibles, la barrière à la réalisation de ces actes malveillants s’abaisse, ce qui pourrait entraîner une hausse de la criminalité augmentée par l’IA.

Cela nécessite de nouvelles approches en cybersécurité et application de la loi, telles que des systèmes d’IA capables de détecter les deepfakes ou comportements anormaux et des cadres juridiques actualisés pour tenir les auteurs responsables. En somme, il faut anticiper que toute capacité offerte par l’IA aux bienfaiteurs pourrait aussi être exploitée par les criminels – et s’y préparer en conséquence.

Militarisation et armes autonomes

Peut-être le risque le plus inquiétant de l’IA se manifeste dans le contexte de la guerre et de la sécurité nationale. L’IA est rapidement intégrée aux systèmes militaires, faisant craindre l’émergence d’armes autonomes (« robots tueurs ») et de prises de décision pilotées par l’IA en situation de combat.

Ces technologies pourraient réagir plus vite que n’importe quel humain, mais retirer le contrôle humain de l’usage de la force létale est source de dangers. Il existe un risque qu’une arme contrôlée par IA cible la mauvaise cible ou aggrave les conflits de manière imprévue. Les observateurs internationaux alertent sur la « militarisation de l’IA » qui constitue une menace croissante.

Si les nations se lancent dans une course aux armements intelligents, cela pourrait déclencher une course aux armements déstabilisante. De plus, l’IA pourrait être utilisée en cyber-guerre pour attaquer de manière autonome des infrastructures critiques ou diffuser de la propagande, brouillant la frontière entre paix et conflit.

Les Nations Unies ont exprimé leur inquiétude que le développement de l’IA dans la guerre, s’il est concentré entre peu de mains, « pourrait être imposé aux populations sans qu’elles aient leur mot à dire sur son usage », sapant la sécurité et l’éthique mondiales.

Les systèmes d’armes autonomes posent aussi des dilemmes juridiques et moraux – qui est responsable si un drone IA tue par erreur des civils ? Comment ces systèmes respectent-ils le droit international humanitaire ?

Ces questions sans réponse ont conduit à des appels à l’interdiction ou à une régulation stricte de certaines armes dotées d’IA. Assurer une supervision humaine sur toute IA capable de décisions de vie ou de mort est largement considéré comme primordial. Sans cela, le risque n’est pas seulement des erreurs tragiques sur le champ de bataille, mais aussi l’érosion de la responsabilité humaine en temps de guerre.

Manque de transparence et d’imputabilité

La plupart des systèmes d’IA avancés fonctionnent aujourd’hui comme des « boîtes noires » – leur logique interne est souvent opaque même pour leurs créateurs. Ce manque de transparence crée un risque que les décisions de l’IA ne puissent être expliquées ou contestées, ce qui pose un problème sérieux dans des domaines comme la justice, la finance ou la santé où l’explicabilité est une exigence légale ou éthique.

Si une IA refuse un prêt, diagnostique une maladie ou décide de la libération conditionnelle d’un détenu, nous voulons naturellement savoir pourquoi. Avec certains modèles d’IA (notamment les réseaux neuronaux complexes), fournir une justification claire est difficile.

Un « manque de transparence » peut miner la confiance et « pourrait aussi compromettre la possibilité de contester efficacement des décisions basées sur les résultats produits par les systèmes d’IA », note l’UNESCO, « et ainsi porter atteinte au droit à un procès équitable et à un recours effectif ».

Autrement dit, si ni les utilisateurs ni les régulateurs ne peuvent comprendre comment l’IA prend ses décisions, il devient presque impossible de tenir quiconque responsable des erreurs ou biais qui en découlent.

Ce déficit d’imputabilité est un risque majeur : les entreprises pourraient se défausser en accusant « l’algorithme », et les personnes affectées se retrouver sans recours. Pour y remédier, les experts préconisent des techniques d’IA explicable, des audits rigoureux et des exigences réglementaires pour que les décisions de l’IA soient traçables à une autorité humaine.

En effet, les lignes directrices éthiques mondiales insistent sur le fait qu’il doit « toujours être possible d’attribuer la responsabilité éthique et juridique » du comportement des systèmes d’IA à une personne ou organisation. Les humains doivent rester ultimement responsables, et l’IA doit assister plutôt que remplacer le jugement humain dans les domaines sensibles. Sinon, nous risquons de créer un monde où des décisions importantes sont prises par des machines incompréhensibles, ce qui est une recette pour l’injustice.

Concentration du pouvoir et inégalités

La révolution de l’IA ne se déroule pas de manière uniforme à travers le monde – un petit nombre d’entreprises et de pays dominent le développement de l’IA avancée, ce qui comporte ses propres risques.

Les modèles d’IA de pointe nécessitent d’énormes quantités de données, de talents et de ressources informatiques que seuls les géants technologiques (et certains gouvernements bien financés) possèdent actuellement. Cela a conduit à une « chaîne d’approvisionnement hautement concentrée, singulière et intégrée à l’échelle mondiale favorisant quelques entreprises et pays », selon le Forum économique mondial.

Cette concentration du pouvoir de l’IA pourrait se traduire par un contrôle monopolistique des technologies d’IA, limitant la concurrence et le choix des consommateurs. Elle soulève aussi le danger que les priorités de ces quelques entreprises ou nations façonnent l’IA de manière à ne pas prendre en compte l’intérêt général.

Les Nations Unies ont souligné le « danger que la technologie [de l’IA] soit imposée aux populations sans qu’elles aient leur mot à dire sur son usage » lorsque le développement est confiné à une poignée de puissants.

Ce déséquilibre pourrait aggraver les inégalités mondiales : les pays et entreprises riches prennent de l’avance grâce à l’IA, tandis que les communautés plus pauvres n’ont pas accès aux outils les plus récents et subissent des pertes d’emplois sans bénéficier des avantages de l’IA. De plus, une industrie de l’IA concentrée pourrait freiner l’innovation (si les nouveaux entrants ne peuvent rivaliser avec les ressources des acteurs établis) et poser des risques de sécurité (si les infrastructures critiques d’IA sont contrôlées par peu d’entités, elles deviennent un point unique de défaillance ou de manipulation).

Répondre à ce risque nécessite une coopération internationale et possiblement de nouvelles régulations pour démocratiser le développement de l’IA – par exemple, en soutenant la recherche ouverte, en garantissant un accès équitable aux données et à la puissance de calcul, et en élaborant des politiques (comme le projet de règlement européen sur l’IA) pour prévenir les pratiques abusives des « gardiens de l’IA ». Un paysage de l’IA plus inclusif aiderait à garantir que les bénéfices de l’IA soient partagés mondialement, plutôt que d’élargir le fossé entre les privilégiés et les exclus de la technologie.

Impact environnemental de l’IA

Souvent négligée dans les discussions sur les risques de l’IA, son empreinte environnementale est pourtant importante. Le développement de l’IA, en particulier l’entraînement de grands modèles d’apprentissage automatique, consomme d’énormes quantités d’électricité et de puissance de calcul.

Les centres de données, remplis de milliers de serveurs gourmands en énergie, sont nécessaires pour traiter les torrents de données dont les systèmes d’IA apprennent. Cela signifie que l’IA peut indirectement contribuer aux émissions de carbone et au changement climatique.

Un rapport récent d’une agence des Nations Unies a révélé que les émissions indirectes de carbone de quatre grandes entreprises technologiques axées sur l’IA ont augmenté en moyenne de 150 % entre 2020 et 2023, principalement en raison des besoins énergétiques des centres de données IA.

Avec la croissance des investissements dans l’IA, les émissions liées à l’exécution des modèles IA devraient fortement augmenter – le rapport prévoit que les principaux systèmes d’IA pourraient émettre collectivement plus de 100 millions de tonnes de CO₂ par an, mettant une pression significative sur les infrastructures énergétiques.

Pour mettre cela en perspective, les centres de données alimentant l’IA font croître la consommation électrique « quatre fois plus vite que la hausse globale de la consommation d’électricité ».

Au-delà des émissions de carbone, l’IA peut aussi consommer beaucoup d’eau pour le refroidissement et générer des déchets électroniques liés au renouvellement rapide du matériel. Sans contrôle, l’impact environnemental de l’IA pourrait compromettre les efforts mondiaux de durabilité.

Ce risque appelle à rendre l’IA plus économe en énergie et à utiliser des sources d’énergie plus propres. Les chercheurs développent des techniques d’IA verte pour réduire la consommation, et certaines entreprises se sont engagées à compenser le coût carbone de l’IA. Néanmoins, il reste une préoccupation majeure que la course à l’IA puisse avoir un lourd tribut environnemental. Trouver un équilibre entre progrès technologique et responsabilité écologique est un autre défi que la société doit relever à mesure que l’IA s’intègre partout.

Risques existentiels et à long terme

Au-delà des risques immédiats, certains experts alertent sur des risques plus spéculatifs et à long terme liés à l’IA – notamment la possibilité d’une IA avancée échappant au contrôle humain. Si les systèmes d’IA actuels sont spécialisés, les chercheurs travaillent activement à une IA générale qui pourrait potentiellement surpasser les humains dans de nombreux domaines.

Cela soulève des questions complexes : si une IA devenait beaucoup plus intelligente ou autonome, pourrait-elle agir de manière à menacer l’existence même de l’humanité ? Bien que cela semble relever de la science-fiction, des figures majeures du secteur technologique ont exprimé leurs inquiétudes à propos de scénarios d’« IA hors de contrôle », et les gouvernements prennent ce débat au sérieux.

En 2023, le Royaume-Uni a organisé un Sommet mondial sur la sécurité de l’IA pour aborder ces risques de pointe. Le consensus scientifique n’est pas unanime – certains estiment que l’IA super-intelligente est à plusieurs décennies, ou peut être alignée sur les valeurs humaines, tandis que d’autres voient une faible mais réelle probabilité d’issues catastrophiques.

Le récent rapport international sur la sécurité de l’IA souligne que « les experts ont des avis divergents sur le risque que l’humanité perde le contrôle de l’IA au point d’aboutir à des conséquences catastrophiques ».

En substance, il est reconnu que le risque existentiel lié à l’IA, aussi faible soit-il, ne peut être totalement écarté. Un tel scénario pourrait impliquer une IA poursuivant ses objectifs au détriment du bien-être humain (l’exemple classique étant une IA mal programmée qui décide de causer un préjudice à grande échelle faute de bon sens ou de contraintes morales).

Bien qu’aucune IA actuelle ne dispose d’une telle autonomie, le rythme rapide et imprévisible des progrès de l’IA constitue en soi un facteur de risque. Se préparer aux risques à long terme implique d’investir dans la recherche sur l’alignement de l’IA (pour garantir que ses objectifs restent compatibles avec les valeurs humaines), d’établir des accords internationaux sur la recherche à enjeux élevés (à l’image des traités sur les armes nucléaires ou biologiques), et de maintenir une supervision humaine à mesure que les systèmes d’IA gagnent en capacités.

L’avenir de l’IA recèle un immense potentiel, mais aussi une incertitude – la prudence impose de prendre en compte même les risques à faible probabilité mais à fort impact dans nos plans à long terme.

>>> Cliquez pour en savoir plus : Avantages de l’IA pour les particuliers et les entreprises

L’IA est souvent comparée à un moteur puissant capable de propulser l’humanité – mais sans freins ni volant, ce moteur peut dévier de sa trajectoire. Comme nous l’avons vu, les risques liés à l’utilisation de l’IA sont multiformes : des problèmes immédiats comme les algorithmes biaisés, les fausses informations, les atteintes à la vie privée et les bouleversements de l’emploi, aux défis sociétaux plus larges tels que les menaces à la sécurité, la prise de décision en « boîte noire », les monopoles des géants du numérique, la pression environnementale, et même le spectre lointain de la perte de contrôle face à une IA super-intelligente.

Ces risques ne signifient pas qu’il faille arrêter le développement de l’IA ; ils soulignent plutôt l’urgence d’une gouvernance responsable de l’IA et de pratiques éthiques.

Les gouvernements, organisations internationales, leaders industriels et chercheurs collaborent de plus en plus pour répondre à ces enjeux – par exemple, via des cadres comme le AI Risk Management Framework du NIST américain (pour améliorer la fiabilité de l’IA), la Recommandation mondiale sur l’éthique de l’IA de l’UNESCO, et le règlement européen sur l’IA.

Ces efforts visent à maximiser les bénéfices de l’IA tout en minimisant ses inconvénients, garantissant que l’IA serve l’humanité et non l’inverse. En définitive, comprendre les risques de l’IA est la première étape pour les maîtriser. En restant informés et impliqués dans le développement et l’usage de l’IA, nous pouvons contribuer à orienter cette technologie transformatrice vers une voie sûre, équitable et bénéfique pour tous.