Los riesgos de usar IA

La Inteligencia Artificial (IA) está ahora integrada en todo, desde asistentes de smartphones y feeds de redes sociales hasta la salud y el transporte. Estas tecnologías traen beneficios sin precedentes, pero también conllevan riesgos y desafíos significativos.

En este artículo, exploremos con INVIAI los riesgos de usar IA en todas las áreas y tipos de IA – desde chatbots y algoritmos hasta robots – basándonos en información de fuentes oficiales e internacionales.

Sesgos y discriminación en sistemas de IA

Un riesgo importante de la IA es el arraigo de sesgos y discriminación injusta. Los modelos de IA aprenden de datos que pueden reflejar prejuicios o desigualdades históricas; como resultado, un sistema de IA puede tratar a las personas de manera diferente según raza, género u otras características, perpetuando la injusticia.

La IA de propósito general que funciona mal puede causar daños mediante decisiones sesgadas respecto a características protegidas como raza, género, cultura, edad y discapacidad.

— Informe Internacional de Seguridad en IA

Organismos globales como la UNESCO advierten que sin medidas de equidad, la IA corre el riesgo de "reproducir sesgos y discriminación del mundo real, alimentar divisiones y amenazar derechos y libertades fundamentales". Garantizar que los sistemas de IA se entrenen con datos diversos y representativos y se auditen para detectar sesgos es esencial para prevenir la discriminación automatizada.

Sesgos y discriminación en sistemas de IA

Peligros de desinformación y deepfakes

La capacidad de la IA para generar textos, imágenes y videos hiperrealistas ha generado temores de una avalancha de desinformación. La IA generativa puede producir noticias falsas convincentes, imágenes falsas o videos deepfake difíciles de distinguir de la realidad.

De hecho, la desinformación y la información falsa impulsadas por IA representan uno de "los mayores desafíos jamás vistos para el proceso democrático", especialmente con miles de millones de personas próximas a votar en elecciones. Los medios sintéticos como videos deepfake y voces clonadas por IA pueden usarse para difundir propaganda, suplantar figuras públicas o cometer fraudes.

Las autoridades advierten que actores maliciosos pueden usar IA para campañas masivas de desinformación, facilitando inundar redes sociales con contenido falso y sembrar caos. El riesgo es un entorno informativo cínico donde los ciudadanos no pueden confiar en lo que ven o escuchan, socavando el discurso público y la democracia.

Peligros de desinformación y deepfakes en IA

Amenazas a la privacidad y vigilancia masiva

El uso generalizado de la IA plantea serias preocupaciones de privacidad. Los sistemas de IA a menudo requieren enormes cantidades de datos personales – desde nuestros rostros y voces hasta hábitos de compra y ubicación – para funcionar eficazmente. Sin salvaguardas fuertes, estos datos pueden ser mal utilizados o explotados.

Por ejemplo, el reconocimiento facial y los algoritmos predictivos podrían permitir una vigilancia omnipresente, rastreando cada movimiento de las personas o calificando su comportamiento sin consentimiento.

La privacidad es un derecho esencial para la protección de la dignidad humana, autonomía y agencia que debe respetarse durante todo el ciclo de vida de un sistema de IA.

— Agencias de Protección de Datos

Si el desarrollo de la IA supera las regulaciones de privacidad, las personas podrían perder el control sobre su propia información. La sociedad debe garantizar una gobernanza robusta de datos, mecanismos de consentimiento y técnicas que preserven la privacidad para que las tecnologías de IA no se conviertan en herramientas de vigilancia sin control.

Amenazas a la privacidad y vigilancia masiva

Fallos de seguridad y daños no intencionados

Aunque la IA puede automatizar decisiones y tareas físicas con eficiencia sobrehumana, también puede fallar de maneras impredecibles, causando daños reales. Confiamos a la IA responsabilidades cada vez más críticas para la seguridad – como conducir autos, diagnosticar pacientes o gestionar redes eléctricas – pero estos sistemas no son infalibles.

Errores, datos de entrenamiento defectuosos o situaciones imprevistas pueden hacer que una IA cometa errores peligrosos. La IA de un coche autónomo podría identificar mal a un peatón, o una IA médica podría recomendar un tratamiento incorrecto con consecuencias potencialmente mortales.

Los daños no deseados (riesgos de seguridad), así como las vulnerabilidades a ataques (riesgos de seguridad), deben evitarse y abordarse durante todo el ciclo de vida de los sistemas de IA para garantizar la seguridad humana, ambiental y de los ecosistemas.

— Directrices Internacionales de IA

En otras palabras, los sistemas de IA deben ser rigurosamente probados, monitoreados y construidos con mecanismos de seguridad para minimizar la posibilidad de fallos. La dependencia excesiva en la IA también puede ser riesgosa – si las personas confían ciegamente en decisiones automatizadas, podrían no intervenir a tiempo cuando algo falla.

Por ello, asegurar la supervisión humana es fundamental. En usos de alto riesgo (como salud o transporte), las decisiones finales deben quedar sujetas al juicio humano. Mantener la seguridad y confiabilidad en la IA es un desafío continuo que exige diseño cuidadoso y una cultura de responsabilidad entre los desarrolladores de IA.

Fallos de seguridad y daños no intencionados en IA

Desplazamiento laboral y disrupción económica

El impacto transformador de la IA en la economía es una espada de doble filo. Por un lado, la IA puede aumentar la productividad y crear industrias completamente nuevas; por otro, representa un riesgo de desplazar a millones de trabajadores mediante la automatización.

Muchos empleos – especialmente aquellos que implican tareas rutinarias, repetitivas o análisis de datos sencillos – son vulnerables a ser asumidos por algoritmos y robots con IA.

Si bien la economía también puede crear nuevos roles (potencialmente más empleos de los que se pierden a largo plazo), la transición será dolorosa para muchos. Los empleos ganados suelen requerir habilidades diferentes y más avanzadas o están concentrados en ciertos centros tecnológicos, lo que significa que muchos trabajadores desplazados podrían tener dificultades para encontrar un nuevo lugar.

Esta desconexión entre las habilidades que tienen los trabajadores y las que demandan los nuevos roles impulsados por IA podría aumentar el desempleo y la desigualdad si no se aborda. De hecho, legisladores e investigadores advierten que el avance rápido de la IA podría traer "disrupción en el mercado laboral y desigualdades de poder económico" a escala sistémica.

Sin medidas proactivas (como programas de reentrenamiento, educación en habilidades de IA y redes de seguridad social), la IA podría ampliar las brechas socioeconómicas, creando una economía impulsada por IA donde quienes poseen la tecnología obtienen la mayoría de los beneficios.

Preparar a la fuerza laboral para el impacto de la IA es crítico para asegurar que los beneficios de la automatización se compartan ampliamente y evitar disturbios sociales por pérdida masiva de empleos.

Desplazamiento laboral y disrupción económica en IA

Uso criminal, fraude y amenazas a la seguridad

La IA es una herramienta poderosa que puede usarse tanto para fines nobles como nefastos. Cibercriminales y otros actores maliciosos ya están explotando la IA para mejorar sus ataques.

Por ejemplo, la IA puede generar correos electrónicos o mensajes de voz altamente personalizados (clonando la voz de alguien) para engañar a personas y obtener información sensible o dinero. También puede usarse para automatizar hackeos encontrando vulnerabilidades de software a gran escala o para desarrollar malware que se adapta para evadir detección.

Actores maliciosos pueden usar IA para operaciones masivas de desinformación, fraude y estafas.

— Informe encargado por el Gobierno del Reino Unido

El Centro para la Seguridad en IA identifica el uso malicioso de la IA como una preocupación clave, señalando escenarios donde sistemas de IA son usados por criminales para realizar fraudes y ciberataques a gran escala.

La velocidad, escala y sofisticación que ofrece la IA podrían abrumar las defensas tradicionales – imagina miles de llamadas fraudulentas generadas por IA o videos deepfake atacando la seguridad de una empresa en un solo día.

A medida que las herramientas de IA se vuelven más accesibles, la barrera para realizar estas actividades maliciosas baja, lo que podría llevar a un aumento del crimen potenciado por IA.

Esto requiere nuevos enfoques en ciberseguridad y aplicación de la ley, como sistemas de IA que puedan detectar deepfakes o comportamientos anómalos y marcos legales actualizados para responsabilizar a los infractores. En esencia, debemos anticipar que cualquier capacidad que la IA proporcione a beneficiarios, podría igualmente proporcionarla a criminales – y prepararnos en consecuencia.

Uso criminal, fraude y amenazas a la seguridad en IA

Militarización y armas autónomas

Quizás el riesgo más inquietante de la IA surge en el contexto de la guerra y la seguridad nacional. La IA se está integrando rápidamente en sistemas militares, aumentando la posibilidad de armas autónomas ("robots asesinos") y toma de decisiones en combate impulsada por IA.

Estas tecnologías podrían reaccionar más rápido que cualquier humano, pero eliminar el control humano en el uso de la fuerza letal es peligroso. Existe el riesgo de que un arma controlada por IA seleccione el objetivo equivocado o escale conflictos de formas imprevistas.

Si las naciones compiten por equipar sus arsenales con armas inteligentes, podría desencadenarse una carrera armamentista desestabilizadora. Además, la IA podría usarse en ciberataques para atacar infraestructuras críticas o difundir propaganda, difuminando la línea entre paz y conflicto.

El desarrollo de la IA en la guerra, si se concentra en pocas manos, podría imponerse a las personas sin que tengan voz sobre su uso, socavando la seguridad y ética globales.

— Naciones Unidas

Los sistemas de armas autónomas también plantean dilemas legales y morales – ¿quién es responsable si un dron con IA mata civiles por error? ¿Cómo cumplen estos sistemas con el derecho internacional humanitario?

Estas preguntas sin respuesta han llevado a llamados para prohibiciones o regulaciones estrictas de ciertas armas habilitadas con IA. Asegurar la supervisión humana sobre cualquier IA que pueda tomar decisiones de vida o muerte es ampliamente considerado fundamental. Sin ella, el riesgo no es solo errores trágicos en el campo de batalla, sino la erosión de la responsabilidad humana en la guerra.

Militarización y armas autónomas en IA

Falta de transparencia y responsabilidad

La mayoría de los sistemas avanzados de IA hoy funcionan como "cajas negras" – su lógica interna suele ser opaca incluso para sus creadores. Esta falta de transparencia crea el riesgo de que las decisiones de IA no puedan explicarse o cuestionarse, lo cual es un problema serio en ámbitos como justicia, finanzas o salud donde la explicabilidad puede ser un requisito legal o ético.

Si una IA niega un préstamo, diagnostica una enfermedad o decide quién obtiene libertad condicional, naturalmente queremos saber por qué. Con algunos modelos de IA (especialmente redes neuronales complejas), proporcionar una justificación clara es difícil.

La falta de transparencia también podría socavar la posibilidad de impugnar eficazmente decisiones basadas en resultados producidos por sistemas de IA, y por ende infringir el derecho a un juicio justo y a un recurso efectivo.

— UNESCO

En otras palabras, si ni usuarios ni reguladores pueden entender cómo la IA toma decisiones, se vuelve casi imposible responsabilizar a alguien por errores o sesgos que surjan.

Para combatir esto, expertos abogan por técnicas de IA explicable, auditorías rigurosas y requisitos regulatorios para que las decisiones de IA sean rastreables a una autoridad humana.

De hecho, las directrices éticas globales insisten en que debe "siempre ser posible atribuir responsabilidad ética y legal" por el comportamiento de sistemas de IA a una persona u organización. Los humanos deben seguir siendo responsables en última instancia, y la IA debe asistir, no reemplazar, el juicio humano en asuntos sensibles. De lo contrario, corremos el riesgo de crear un mundo donde decisiones importantes las tomen máquinas inescrutables, lo que es una receta para la injusticia.

Falta de transparencia y responsabilidad en el uso de IA en el trabajo

Concentración de poder y desigualdad

La revolución de la IA no ocurre de manera uniforme en el mundo – un pequeño número de corporaciones y países dominan el desarrollo de IA avanzada, lo que conlleva sus propios riesgos.

Los modelos de IA de vanguardia requieren enormes datos, talento y recursos computacionales que solo los gigantes tecnológicos (y gobiernos bien financiados) poseen actualmente.

Esto ha llevado a una cadena de suministro singular, altamente concentrada e integrada globalmente que favorece a pocas empresas y países.

— Foro Económico Mundial

Dicha concentración del poder en IA podría traducirse en control monopólico sobre tecnologías de IA, limitando la competencia y la elección del consumidor. También aumenta el peligro de que las prioridades de esas pocas empresas o naciones configuren la IA de formas que no consideren el interés público más amplio.

Este desequilibrio podría agravar las desigualdades globales: naciones y empresas ricas avanzan aprovechando la IA, mientras comunidades pobres carecen de acceso a las últimas herramientas y sufren pérdidas de empleo sin disfrutar los beneficios de la IA.

Además, una industria de IA concentrada podría sofocar la innovación (si los recién llegados no pueden competir con los recursos de los incumbentes) y plantear riesgos de seguridad (si la infraestructura crítica de IA está controlada por pocas entidades, se convierte en un punto único de falla o manipulación).

Abordar este riesgo requiere cooperación internacional y posiblemente nuevas regulaciones para democratizar el desarrollo de IA – por ejemplo, apoyando la investigación abierta, asegurando acceso justo a datos y computación, y creando políticas (como la propuesta Ley de IA de la UE) para prevenir prácticas abusivas de "guardianes de IA". Un panorama de IA más inclusivo ayudaría a asegurar que los beneficios de la IA se compartan globalmente, en lugar de ampliar la brecha entre quienes tienen y no tienen tecnología.

Concentración de poder y desigualdad

Impacto ambiental de la IA

A menudo se pasa por alto en las discusiones sobre riesgos de la IA su huella ambiental. El desarrollo de IA, especialmente el entrenamiento de grandes modelos de aprendizaje automático, consume enormes cantidades de electricidad y potencia computacional.

Los centros de datos llenos de miles de servidores que consumen mucha energía son necesarios para procesar los torrentes de datos de los que aprenden los sistemas de IA. Esto significa que la IA puede contribuir indirectamente a emisiones de carbono y cambio climático.

A medida que crece la inversión en IA, se espera que las emisiones por operar modelos de IA aumenten drásticamente – el informe proyecta que los principales sistemas de IA podrían emitir colectivamente más de 100 millones de toneladas de CO₂ al año, poniendo una presión significativa en la infraestructura energética.

Para ponerlo en perspectiva, los centros de datos que alimentan la IA están aumentando el consumo eléctrico "cuatro veces más rápido que el aumento general del consumo de electricidad".

Aparte de las emisiones de carbono, la IA también puede consumir mucha agua para refrigeración y producir residuos electrónicos debido a la rápida actualización del hardware. Si no se controla, el impacto ambiental de la IA podría socavar los esfuerzos globales de sostenibilidad.

Este riesgo exige hacer la IA más eficiente energéticamente y usar fuentes de energía más limpias. Investigadores desarrollan técnicas de IA verde para reducir el consumo, y algunas empresas se han comprometido a compensar el costo de carbono de la IA. Sin embargo, sigue siendo una preocupación urgente que la carrera por la IA pueda tener un alto costo ambiental. Equilibrar el progreso tecnológico con la responsabilidad ecológica es otro desafío que la sociedad debe afrontar al integrar la IA en todas partes.

Impacto ambiental de la IA

Riesgos existenciales y a largo plazo

Más allá de los riesgos inmediatos, algunos expertos advierten sobre riesgos especulativos y a largo plazo de la IA – incluyendo la posibilidad de una IA avanzada que crezca fuera del control humano. Aunque los sistemas actuales de IA son estrechos en sus capacidades, los investigadores trabajan activamente hacia una IA general que podría superar a los humanos en muchos ámbitos.

Esto plantea preguntas complejas: si una IA se vuelve mucho más inteligente o autónoma, ¿podría actuar de maneras que amenacen la existencia de la humanidad? Aunque suena a ciencia ficción, figuras prominentes en la comunidad tecnológica han expresado preocupación sobre escenarios de "IA rebelde", y los gobiernos toman la discusión en serio.

Los expertos tienen diferentes opiniones sobre el riesgo de que la humanidad pierda el control sobre la IA de manera que pueda resultar en consecuencias catastróficas.

— Informe Internacional de Seguridad en IA

El consenso científico no es uniforme – algunos creen que la superinteligencia está a décadas de distancia o puede mantenerse alineada con valores humanos, mientras otros ven una pequeña pero no nula posibilidad de resultados catastróficos.

En esencia, se reconoce que el riesgo existencial de la IA, aunque remoto, no puede descartarse completamente. Tal resultado podría involucrar una IA que persiga sus objetivos en detrimento del bienestar humano (el ejemplo clásico es una IA que, si se programa mal, decide hacer algo dañino a gran escala porque carece de sentido común o restricciones morales).

Aunque ninguna IA actual tiene agencia cercana a ese nivel, el ritmo de avance de la IA es rápido e impredecible, lo que en sí mismo es un factor de riesgo.

Prepararse para riesgos a largo plazo significa invertir en investigación de alineación de IA (asegurando que los objetivos de la IA sigan siendo compatibles con valores humanos), establecer acuerdos internacionales sobre investigación de IA de alto riesgo (como tratados sobre armas nucleares o biológicas), y mantener supervisión humana conforme los sistemas de IA se vuelven más capaces.

El futuro de la IA tiene un enorme potencial, pero también incertidumbre – y la prudencia dicta considerar incluso riesgos de baja probabilidad y alto impacto en nuestra planificación a largo plazo.

Riesgos existenciales y a largo plazo en IA

Navegando el futuro de la IA con responsabilidad

La IA a menudo se compara con un motor poderoso que puede impulsar a la humanidad hacia adelante – pero sin frenos ni dirección, ese motor puede desviarse. Como hemos visto, los riesgos de usar IA son multifacéticos: desde problemas inmediatos como algoritmos sesgados, noticias falsas, invasiones de privacidad y trastornos laborales, hasta desafíos sociales más amplios como amenazas a la seguridad, decisiones en "cajas negras", monopolios tecnológicos, presión ambiental e incluso el espectro lejano de perder el control ante una IA superinteligente.

Gobiernos, organizaciones internacionales, líderes de la industria e investigadores colaboran cada vez más para abordar estas preocupaciones – por ejemplo, mediante marcos como:

• El Marco de Gestión de Riesgos de IA del NIST de EE.UU. (para mejorar la confiabilidad de la IA)
• La Recomendación global de Ética en IA de la UNESCO
• La Ley de IA de la Unión Europea

Estos esfuerzos buscan maximizar los beneficios de la IA minimizando sus desventajas, asegurando que la IA sirva a la humanidad y no al revés.