La Inteligencia Artificial (IA) está ahora integrada en todo, desde asistentes en smartphones y feeds de redes sociales hasta la salud y el transporte. Estas tecnologías aportan beneficios sin precedentes, pero también conllevan riesgos y desafíos significativos.

Expertos e instituciones globales advierten que, sin los límites éticos adecuados, la IA puede reproducir sesgos y discriminación del mundo real, contribuir al daño ambiental, amenazar los derechos humanos y amplificar las desigualdades existentes.

En este artículo, exploremos con INVIAI los riesgos de usar la IA en todas las áreas y tipos de IA – desde chatbots y algoritmos hasta robots – basándonos en información de fuentes oficiales e internacionales.

Sesgos y discriminación en sistemas de IA

Uno de los principales riesgos de la IA es el arraigo de sesgos y discriminación injusta. Los modelos de IA aprenden de datos que pueden reflejar prejuicios o desigualdades históricas; como resultado, un sistema de IA puede tratar a las personas de manera diferente según raza, género u otras características, perpetuando la injusticia.

Por ejemplo, “una IA de propósito general que funcione mal puede causar daños mediante decisiones sesgadas respecto a características protegidas como raza, género, cultura, edad y discapacidad,” según un informe internacional sobre seguridad en IA.

Los algoritmos sesgados usados en contratación, préstamos o vigilancia policial ya han provocado resultados desiguales que perjudican injustamente a ciertos grupos. Organismos globales como la UNESCO advierten que sin medidas de equidad, la IA corre el riesgo de “reproducir sesgos y discriminación del mundo real, alimentar divisiones y amenazar derechos y libertades fundamentales”. Es esencial que los sistemas de IA se entrenen con datos diversos y representativos y se auditen para detectar sesgos, a fin de evitar discriminación automatizada.

Peligros de la desinformación y los deepfakes

La capacidad de la IA para generar textos, imágenes y videos hiperrealistas ha despertado temores sobre una avalancha de desinformación. La IA generativa puede producir noticias falsas convincentes, imágenes fraudulentas o videos deepfake difíciles de distinguir de la realidad.

El Informe Global de Riesgos 2024 del Foro Económico Mundial identifica la “información manipulada y falsificada” como el riesgo global más grave a corto plazo, señalando que la IA está “amplificando información manipulada y distorsionada que podría desestabilizar sociedades.”

De hecho, la desinformación y la información falsa impulsadas por la IA representan uno de los “mayores desafíos jamás enfrentados por el proceso democrático”, especialmente con miles de millones de personas que votarán en próximas elecciones. Los medios sintéticos como videos deepfake y voces clonadas por IA pueden usarse para difundir propaganda, suplantar a figuras públicas o cometer fraudes.

Las autoridades advierten que actores malintencionados pueden aprovechar la IA para campañas masivas de desinformación, facilitando inundar las redes sociales con contenido falso y sembrar caos. El riesgo es un entorno informativo cínico donde los ciudadanos no puedan confiar en lo que ven o escuchan, socavando el discurso público y la democracia.

Amenazas a la privacidad y vigilancia masiva

El uso generalizado de la IA genera serias preocupaciones sobre la privacidad. Los sistemas de IA suelen requerir grandes cantidades de datos personales – desde nuestros rostros y voces hasta hábitos de compra y ubicación – para funcionar eficazmente. Sin protecciones sólidas, estos datos pueden ser mal utilizados o explotados.

Por ejemplo, el reconocimiento facial y los algoritmos predictivos podrían permitir una vigilancia omnipresente, rastreando cada movimiento de las personas o evaluando su comportamiento sin consentimiento. La recomendación global de ética en IA de la UNESCO advierte explícitamente que “los sistemas de IA no deben usarse para puntuación social ni para vigilancia masiva.” Estos usos se consideran riesgos inaceptables.

Además, el análisis impulsado por IA de datos personales puede revelar detalles íntimos de nuestras vidas, desde el estado de salud hasta creencias políticas, amenazando el derecho a la privacidad. Las agencias de protección de datos subrayan que la privacidad es “un derecho esencial para la protección de la dignidad humana, la autonomía y la capacidad de acción” que debe respetarse durante todo el ciclo de vida de un sistema de IA.

Si el desarrollo de la IA supera las regulaciones de privacidad, las personas podrían perder el control sobre su propia información. La sociedad debe garantizar una gobernanza robusta de datos, mecanismos de consentimiento y técnicas que preserven la privacidad para que las tecnologías de IA no se conviertan en herramientas de vigilancia sin control.

Fallos de seguridad y daños no intencionados

Aunque la IA puede automatizar decisiones y tareas físicas con eficiencia sobrehumana, también puede fallar de maneras impredecibles, causando daños reales. Confiamos a la IA responsabilidades cada vez más críticas para la seguridad – como conducir vehículos, diagnosticar pacientes o gestionar redes eléctricas – pero estos sistemas no son infalibles.

Errores, datos de entrenamiento defectuosos o situaciones imprevistas pueden hacer que una IA cometa fallos peligrosos. La IA de un coche autónomo podría identificar mal a un peatón, o una IA médica podría recomendar un tratamiento incorrecto, con consecuencias potencialmente mortales.

Reconociendo esto, las directrices internacionales enfatizan que los daños no deseados y riesgos de seguridad derivados de la IA deben anticiparse y prevenirse: “Los daños no deseados (riesgos de seguridad), así como las vulnerabilidades a ataques (riesgos de seguridad) deben evitarse y abordarse durante todo el ciclo de vida de los sistemas de IA para garantizar la seguridad humana, ambiental y de los ecosistemas.”

En otras palabras, los sistemas de IA deben ser rigurosamente probados, monitoreados y diseñados con mecanismos de seguridad para minimizar la posibilidad de fallos. La dependencia excesiva en la IA también puede ser riesgosa – si las personas confían ciegamente en decisiones automatizadas, podrían no intervenir a tiempo cuando algo falla.

Por ello, asegurar la supervisión humana es crucial. En usos de alto riesgo (como salud o transporte), las decisiones finales deben quedar sujetas al juicio humano, y como señala la UNESCO, “las decisiones de vida o muerte no deben delegarse a sistemas de IA.” Mantener la seguridad y fiabilidad en la IA es un desafío continuo que exige un diseño cuidadoso y una cultura de responsabilidad entre los desarrolladores.

Desplazamiento laboral y disrupción económica

El impacto transformador de la IA en la economía es una espada de doble filo. Por un lado, la IA puede aumentar la productividad y crear industrias completamente nuevas; por otro, representa un riesgo de desplazar a millones de trabajadores mediante la automatización.

Muchos empleos – especialmente aquellos que implican tareas rutinarias, repetitivas o datos fácilmente analizables – son vulnerables a ser asumidos por algoritmos y robots de IA. Las previsiones globales son preocupantes: por ejemplo, el Foro Económico Mundial proyecta que “noventa y dos millones de empleos podrían ser desplazados para 2030” debido a la IA y tecnologías relacionadas.

Aunque la economía también puede crear nuevos roles (potencialmente más empleos de los que se pierden a largo plazo), la transición será dolorosa para muchos. Los empleos ganados suelen requerir habilidades diferentes y más avanzadas o están concentrados en ciertos centros tecnológicos, lo que significa que muchos trabajadores desplazados podrían tener dificultades para encontrar un nuevo lugar.

Esta desconexión entre las habilidades que tienen los trabajadores y las que demandan los nuevos roles impulsados por IA podría aumentar el desempleo y la desigualdad si no se aborda. De hecho, responsables políticos e investigadores advierten que el avance rápido de la IA podría provocar “disrupción en el mercado laboral y desigualdades en el poder económico” a escala sistémica.

Algunos grupos podrían verse más afectados – por ejemplo, estudios indican que una mayor proporción de empleos ocupados por mujeres o trabajadores en países en desarrollo están en alto riesgo de automatización. Sin medidas proactivas (como programas de recualificación, educación en habilidades de IA y redes de seguridad social), la IA podría ampliar las brechas socioeconómicas, creando una economía dominada por quienes poseen la tecnología y que concentran la mayoría de los beneficios.

Preparar a la fuerza laboral para el impacto de la IA es fundamental para asegurar que los beneficios de la automatización se compartan ampliamente y evitar convulsiones sociales por la pérdida masiva de empleos.

Uso criminal, fraude y amenazas a la seguridad

La IA es una herramienta poderosa que puede usarse tanto para fines nobles como para propósitos maliciosos. Los ciberdelincuentes y otros actores malintencionados ya están explotando la IA para potenciar sus ataques.

Por ejemplo, la IA puede generar correos electrónicos o mensajes de voz altamente personalizados (clonando la voz de alguien) para engañar a las personas y hacer que revelen información sensible o envíen dinero. También puede automatizar ataques informáticos al encontrar vulnerabilidades en software a gran escala o desarrollar malware que se adapta para evadir la detección.

El Centro para la Seguridad en IA identifica el uso malicioso de la IA como una preocupación clave, señalando escenarios donde sistemas de IA son usados por criminales para llevar a cabo fraudes y ciberataques a gran escala. De hecho, un informe encargado por el gobierno del Reino Unido advirtió explícitamente que “actores maliciosos pueden usar la IA para operaciones masivas de desinformación e influencia, fraudes y estafas”.

La velocidad, escala y sofisticación que ofrece la IA podrían superar las defensas tradicionales – imagina miles de llamadas fraudulentas generadas por IA o videos deepfake dirigidos a la seguridad de una empresa en un solo día.

Más allá de los delitos financieros, también existe el riesgo de que la IA facilite el robo de identidad, el acoso o la creación de contenido dañino (como pornografía deepfake no consensuada o propaganda para grupos extremistas). A medida que las herramientas de IA se vuelven más accesibles, la barrera para realizar estas actividades maliciosas baja, lo que podría provocar un aumento en los delitos potenciados por IA.

Esto exige nuevos enfoques en ciberseguridad y aplicación de la ley, como sistemas de IA que puedan detectar deepfakes o comportamientos anómalos y marcos legales actualizados para responsabilizar a los infractores. En esencia, debemos anticipar que cualquier capacidad que la IA proporcione a los beneficiarios, podría igualmente proporcionarla a los criminales – y prepararnos en consecuencia.

Militarización y armas autónomas

Quizás el riesgo más inquietante de la IA surge en el contexto de la guerra y la seguridad nacional. La IA se está integrando rápidamente en sistemas militares, aumentando la posibilidad de armas autónomas (“robots asesinos”) y toma de decisiones en combate impulsada por IA.

Estas tecnologías podrían reaccionar más rápido que cualquier humano, pero eliminar el control humano en el uso de la fuerza letal es sumamente peligroso. Existe el riesgo de que un arma controlada por IA seleccione el objetivo equivocado o escale conflictos de formas imprevistas. Observadores internacionales advierten que la “militarización de la IA” es una amenaza creciente.

Si las naciones compiten por equipar sus arsenales con armas inteligentes, podría desencadenarse una carrera armamentista desestabilizadora. Además, la IA podría usarse en la ciberguerra para atacar infraestructuras críticas de forma autónoma o difundir propaganda, difuminando la línea entre paz y conflicto.

Las Naciones Unidas han expresado preocupación porque el desarrollo de la IA en la guerra, si se concentra en pocas manos, “podría imponerse a las personas sin que tengan voz sobre cómo se usa,” socavando la seguridad y la ética globales.

Los sistemas de armas autónomas también plantean dilemas legales y morales – ¿quién es responsable si un dron IA mata civiles por error? ¿Cómo cumplen estos sistemas con el derecho internacional humanitario?

Estas preguntas sin respuesta han llevado a llamados para prohibiciones o regulaciones estrictas de ciertas armas habilitadas por IA. Asegurar la supervisión humana sobre cualquier IA que pueda tomar decisiones de vida o muerte es considerado fundamental. Sin ella, el riesgo no es solo errores trágicos en el campo de batalla, sino la erosión de la responsabilidad humana en la guerra.

Falta de transparencia y rendición de cuentas

La mayoría de los sistemas avanzados de IA hoy funcionan como “cajas negras” – su lógica interna suele ser opaca incluso para sus creadores. Esta falta de transparencia crea el riesgo de que las decisiones de la IA no puedan explicarse ni cuestionarse, lo cual es un problema grave en ámbitos como justicia, finanzas o salud, donde la explicabilidad puede ser un requisito legal o ético.

Si una IA niega un préstamo, diagnostica una enfermedad o decide quién obtiene libertad condicional, naturalmente queremos saber por qué. Con algunos modelos de IA (especialmente redes neuronales complejas), proporcionar una justificación clara es difícil.

La “falta de transparencia” puede minar la confianza y “también podría impedir la posibilidad de impugnar eficazmente decisiones basadas en resultados producidos por sistemas de IA,” señala la UNESCO, “y por ende vulnerar el derecho a un juicio justo y a un recurso efectivo.”

En otras palabras, si ni usuarios ni reguladores pueden entender cómo la IA toma decisiones, se vuelve casi imposible responsabilizar a alguien por errores o sesgos que surjan.

Esta brecha en la rendición de cuentas es un riesgo importante: las empresas podrían evadir responsabilidad culpando “al algoritmo”, y las personas afectadas podrían quedarse sin recursos. Para combatir esto, los expertos abogan por técnicas de IA explicable, auditorías rigurosas y requisitos regulatorios que hagan trazables las decisiones de IA a una autoridad humana.

De hecho, las directrices éticas globales insisten en que siempre debe “ser posible atribuir responsabilidad ética y legal” por el comportamiento de los sistemas de IA a una persona u organización. Los humanos deben seguir siendo responsables en última instancia, y la IA debe asistir, no reemplazar, el juicio humano en asuntos sensibles. De lo contrario, corremos el riesgo de crear un mundo donde decisiones importantes las tomen máquinas inescrutables, lo que es una receta para la injusticia.

Concentración de poder y desigualdad

La revolución de la IA no ocurre de manera uniforme en todo el mundo – un pequeño número de corporaciones y países domina el desarrollo de IA avanzada, lo que conlleva sus propios riesgos.

Los modelos de IA de vanguardia requieren enormes cantidades de datos, talento y recursos computacionales que solo poseen actualmente los gigantes tecnológicos (y gobiernos bien financiados). Esto ha dado lugar a una “cadena de suministro singular, altamente concentrada e integrada globalmente que favorece a unas pocas empresas y países,” según el Foro Económico Mundial.

Tal concentración del poder en IA podría traducirse en un control monopolístico sobre las tecnologías de IA, limitando la competencia y la elección del consumidor. También aumenta el peligro de que las prioridades de esas pocas empresas o naciones configuren la IA de maneras que no consideren el interés público más amplio.

Las Naciones Unidas han señalado el “peligro de que la tecnología [de IA] pueda imponerse a las personas sin que tengan voz sobre cómo se usa,” cuando el desarrollo está confinado a unos pocos poderosos.

Este desequilibrio podría agravar las desigualdades globales: las naciones y empresas ricas avanzan rápidamente aprovechando la IA, mientras que las comunidades más pobres carecen de acceso a las herramientas más recientes y sufren pérdidas de empleo sin disfrutar de los beneficios de la IA. Además, una industria de IA concentrada podría sofocar la innovación (si los recién llegados no pueden competir con los recursos de los incumbentes) y plantear riesgos de seguridad (si la infraestructura crítica de IA está controlada por pocas entidades, convirtiéndose en un punto único de fallo o manipulación).

Abordar este riesgo requiere cooperación internacional y posiblemente nuevas regulaciones para democratizar el desarrollo de la IA – por ejemplo, apoyando la investigación abierta, garantizando acceso justo a datos y capacidad computacional, y diseñando políticas (como la propuesta Ley de IA de la UE) para prevenir prácticas abusivas de “guardianes de la IA.” Un panorama de IA más inclusivo ayudaría a asegurar que los beneficios de la IA se compartan globalmente, en lugar de ampliar la brecha entre quienes tienen y no tienen tecnología.

Impacto ambiental de la IA

A menudo se pasa por alto en las discusiones sobre los riesgos de la IA su huella ambiental. El desarrollo de IA, especialmente el entrenamiento de grandes modelos de aprendizaje automático, consume enormes cantidades de electricidad y potencia computacional.

Los centros de datos, llenos de miles de servidores que consumen mucha energía, son necesarios para procesar los torrentes de datos de los que aprenden los sistemas de IA. Esto significa que la IA puede contribuir indirectamente a las emisiones de carbono y al cambio climático.

Un informe reciente de una agencia de Naciones Unidas encontró que las emisiones indirectas de carbono de cuatro empresas tecnológicas líderes en IA se dispararon en un promedio del 150% entre 2020 y 2023, debido en gran parte a la demanda energética de los centros de datos de IA.

A medida que crece la inversión en IA, se espera que las emisiones por operar modelos de IA aumenten drásticamente – el informe proyecta que los principales sistemas de IA podrían emitir colectivamente más de 100 millones de toneladas de CO₂ al año, ejerciendo una presión significativa sobre la infraestructura energética.

Para ponerlo en perspectiva, los centros de datos que alimentan la IA están aumentando el consumo eléctrico “cuatro veces más rápido que el aumento general del consumo de electricidad”.

Además de las emisiones de carbono, la IA también puede consumir grandes cantidades de agua para refrigeración y generar residuos electrónicos debido a la rápida actualización del hardware. Si no se controla, el impacto ambiental de la IA podría socavar los esfuerzos globales de sostenibilidad.

Este riesgo exige hacer la IA más eficiente energéticamente y usar fuentes de energía más limpias. Los investigadores están desarrollando técnicas de IA verde para reducir el consumo energético, y algunas empresas se han comprometido a compensar el costo de carbono de la IA. Sin embargo, sigue siendo una preocupación urgente que la carrera por la IA pueda tener un alto costo ambiental. Equilibrar el progreso tecnológico con la responsabilidad ecológica es otro desafío que la sociedad debe afrontar al integrar la IA en todas partes.

Riesgos existenciales y a largo plazo

Más allá de los riesgos inmediatos, algunos expertos advierten sobre riesgos especulativos y a largo plazo de la IA – incluyendo la posibilidad de una IA avanzada que crezca más allá del control humano. Aunque los sistemas de IA actuales son limitados en sus capacidades, los investigadores trabajan activamente hacia una IA general que podría superar a los humanos en muchos ámbitos.

Esto plantea preguntas complejas: si una IA se vuelve mucho más inteligente o autónoma, ¿podría actuar de maneras que amenacen la existencia de la humanidad? Aunque suena a ciencia ficción, figuras prominentes en la comunidad tecnológica han expresado preocupación por escenarios de “IA descontrolada”, y los gobiernos toman el tema en serio.

En 2023, el Reino Unido organizó una Cumbre Global sobre Seguridad en IA para abordar riesgos de frontera. El consenso científico no es uniforme – algunos creen que la superinteligencia está a décadas de distancia o puede mantenerse alineada con valores humanos, mientras otros ven una pequeña pero real posibilidad de resultados catastróficos.

El reciente informe internacional sobre seguridad en IA destacó que “los expertos tienen opiniones diferentes sobre el riesgo de que la humanidad pierda el control sobre la IA de manera que pueda resultar en consecuencias catastróficas.”

En esencia, se reconoce que el riesgo existencial de la IA, aunque remoto, no puede descartarse por completo. Tal resultado podría implicar que una IA persiga sus objetivos en detrimento del bienestar humano (el ejemplo clásico es una IA que, si está mal programada, decide hacer algo dañino a gran escala porque carece de sentido común o restricciones morales).

Aunque ninguna IA actual tiene agencia cercana a ese nivel, el ritmo de avance de la IA es rápido e impredecible, lo que en sí mismo es un factor de riesgo. Prepararse para riesgos a largo plazo implica invertir en investigación de alineación de IA (asegurando que los objetivos de la IA sigan siendo compatibles con los valores humanos), establecer acuerdos internacionales sobre investigación de IA de alto riesgo (similar a tratados sobre armas nucleares o biológicas) y mantener supervisión humana a medida que los sistemas de IA se vuelven más capaces.

El futuro de la IA tiene un enorme potencial, pero también incertidumbre – y la prudencia dicta que consideremos incluso riesgos de baja probabilidad y alto impacto en nuestra planificación a largo plazo.

>>> Haz clic para saber más: Beneficios de la IA para Personas y Empresas

La IA a menudo se compara con un motor poderoso que puede impulsar a la humanidad hacia adelante – pero sin frenos ni dirección, ese motor puede desviarse. Como hemos visto, los riesgos de usar la IA son multifacéticos: desde problemas inmediatos como algoritmos sesgados, noticias falsas, invasiones a la privacidad y cambios laborales, hasta desafíos sociales más amplios como amenazas a la seguridad, decisiones en “caja negra”, monopolios tecnológicos, presión ambiental e incluso el espectro lejano de perder el control ante una IA superinteligente.

Estos riesgos no significan que debamos detener el desarrollo de la IA; más bien, resaltan la necesidad urgente de gobernanza responsable de la IA y prácticas éticas.

Gobiernos, organizaciones internacionales, líderes de la industria e investigadores colaboran cada vez más para abordar estas preocupaciones – por ejemplo, mediante marcos como el Marco de Gestión de Riesgos de IA del NIST de EE.UU. (para mejorar la confiabilidad de la IA), la Recomendación Global de Ética en IA de la UNESCO y la Ley de IA de la Unión Europea.

Estos esfuerzos buscan maximizar los beneficios de la IA minimizando sus desventajas, asegurando que la IA sirva a la humanidad y no al revés. En definitiva, entender los riesgos de la IA es el primer paso para gestionarlos. Manteniéndonos informados y participando en cómo se desarrolla y usa la IA, podemos ayudar a guiar esta tecnología transformadora hacia un rumbo seguro, justo y beneficioso para todos.