ONU alerta por riesgos de la IA: “Todos los derechos humanos están en riesgo”
a ONU advirtió que el avance de la inteligencia artificial puede poner en riesgo derechos fundamentales y pidió controles urgentes para los sistemas más poderosos.
El rápido avance de la inteligencia artificial (IA) podría poner en riesgo derechos fundamentales como la vida, la alimentación, la privacidad, la salud y la seguridad si el desarrollo de los sistemas más poderosos avanza sin suficientes controles, advirtió este lunes Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos.
La advertencia llega en momentos en que empresas tecnológicas compiten por desarrollar modelos cada vez más capaces y, particularmente, agentes de inteligencia artificial que pueden ejecutar tareas con un mayor grado de autonomía.
Türk pidió a gobiernos y compañías responsables de la denominada IA de frontera actuar con urgencia para establecer mecanismos de gobernanza capaces de mantenerse al ritmo de la tecnología. En una carta dirigida a Estados y desarrolladores, advirtió que el mundo se encuentra ante cambios que podrían resultar irreversibles y afectar también a futuras generaciones.
Uno de los escenarios mencionados por el funcionario de la ONU es especialmente grave: fallos en sistemas autónomos podrían interrumpir servicios esenciales e infraestructuras críticas hasta dejar a comunidades sin agua, calefacción o acceso a servicios financieros.
Sin embargo, se trata de riesgos potenciales planteados por el alto comisionado, no de una afirmación de que la IA ya haya dejado poblaciones enteras sin estos servicios.
Te puede interesar
La inteligencia artificial no es peligrosa. Peligroso es no saber qué pedirle.
¿Por qué la ONU advierte sobre los riesgos de la inteligencia artificial?
La preocupación de Türk está relacionada con la velocidad con la que están aumentando las capacidades de los sistemas más avanzados.
El alto comisionado considera que la carrera por construir una IA cada vez más potente supone un salto hacia riesgos mayores que ya no se limitan a problemas como desinformación, privacidad, discriminación algorítmica o pérdida de empleos.
En su advertencia de este lunes señaló que “todos los derechos humanos están en riesgo”, incluyendo los derechos a la vida, alimentación, privacidad, salud y seguridad.
El escenario que preocupa particularmente a la ONU es el avance de la llamada IA agéntica.
¿Qué es la IA agéntica y por qué preocupa?
A diferencia de un chatbot que principalmente responde preguntas o genera contenido a petición del usuario, un agente de IA puede recibir un objetivo, tomar una serie de decisiones y ejecutar acciones utilizando distintas herramientas con una intervención humana más limitada.
Esa capacidad abre posibilidades importantes para automatizar tareas, pero también incrementa las consecuencias de un eventual error.
Türk advirtió que fallos en estos sistemas podrían paralizar servicios esenciales, interrumpir comunicaciones, desestabilizar infraestructura crítica y afectar instituciones democráticas.
El problema, desde la perspectiva planteada por el alto comisionado, aparece cuando sistemas con capacidades cada vez mayores reciben autonomía para interactuar con entornos reales.
Un error en una respuesta generada por un chatbot puede quedar limitado a información incorrecta. Un error de un sistema autorizado para ejecutar acciones puede tener consecuencias mucho mayores dependiendo del nivel de acceso que tenga.
¿Cómo podría una IA dejar a poblaciones sin agua?
Éste es uno de los puntos más llamativos de la advertencia y también uno de los que requiere mayor contexto.
Türk no afirmó que una inteligencia artificial haya cortado ya el suministro de agua de una población.
Planteó un escenario de riesgo en el que un fallo de sistemas de IA conectados con servicios o infraestructuras esenciales podría tener consecuencias sobre servicios básicos.
“Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros”, advirtió el alto comisionado.
El riesgo dependería, por tanto, del grado de autonomía y acceso concedido a estos sistemas.
La preocupación no es que una aplicación de IA pueda por sí misma “cerrar el agua”, sino que sistemas automatizados terminen participando en la administración, operación o toma de decisiones vinculadas con infraestructura crítica sin suficientes salvaguardas humanas y técnicas.
Te puede interesar
La ONU también advierte sobre IA y guerras
La advertencia va más allá de servicios públicos.
Türk sostuvo que la inteligencia artificial ya está acelerando el ritmo de los conflictos armados y ampliando su alcance, y alertó sobre la posibilidad de que la tecnología debilite salvaguardas relacionadas con armas de destrucción masiva.
Este punto forma parte de una discusión internacional más amplia sobre cuánto control debe conservar una persona cuando una máquina interviene en decisiones relacionadas con el uso de la fuerza.
La propia ONU sostiene dentro de su estrategia sobre inteligencia artificial que el control humano debe mantenerse en las decisiones relacionadas con el uso de la fuerza, particularmente por sus implicaciones para la paz, la seguridad y los derechos humanos.
Türk ya había advertido sobre una IA demasiado poderosa
La declaración de este lunes no surgió de manera aislada.
El pasado 7 de septiembre, durante la apertura del 63 periodo de sesiones del Consejo de Derechos Humanos de Naciones Unidas, Türk lanzó una advertencia todavía más directa sobre el rumbo de la tecnología.
El alto comisionado reclamó garantías robustas alrededor de la seguridad de los sistemas avanzados y mencionó comportamientos observados durante pruebas de algunos modelos, como intentos de escapar de entornos controlados o evitar ser desactivados.
Para Türk, un sistema capaz de exhibir ese tipo de comportamiento es demasiado poderoso para desarrollarse sin controles suficientes.
En aquella intervención pidió establecer líneas rojas acordadas entre países, verificación independiente y mayor colaboración de seguridad dentro de la industria tecnológica.
¿La ONU está pidiendo detener la inteligencia artificial?
No.
La advertencia no equivale a solicitar la prohibición de la inteligencia artificial ni la suspensión de todas las herramientas actualmente disponibles.
El planteamiento de Türk es que el desarrollo de los sistemas más avanzados no debe superar la capacidad de gobiernos, empresas y organismos internacionales para establecer salvaguardas.
El alto comisionado pidió que Estados y compañías tecnológicas trabajen urgentemente en mecanismos multilaterales de gobernanza basados en el derecho internacional y los derechos humanos.
Su posición también cuestiona que las decisiones sobre los riesgos aceptables de una tecnología con impacto global queden exclusivamente en manos de las compañías que la desarrollan.
ONU cuestiona el poder concentrado en las grandes tecnológicas
Türk ya había puesto el foco sobre este problema una semana antes.
Durante su intervención ante el Consejo de Derechos Humanos aseguró que existe una enorme concentración de poder sobre la IA en un número muy reducido de personas y compañías.
También cuestionó la explotación masiva de datos personales y sostuvo que retrasar la creación de mecanismos de gobernanza beneficia principalmente a las grandes empresas tecnológicas y a sus propietarios.
El debate plantea así una pregunta que va más allá de la seguridad informática: ¿quién decide hasta dónde puede llegar la inteligencia artificial?
Para Naciones Unidas, esa respuesta no debería corresponder exclusivamente a una compañía o a un solo país.
La ONU ya trabaja en una gobernanza mundial de la IA
Naciones Unidas lleva varios años construyendo una arquitectura internacional para abordar los beneficios y riesgos de esta tecnología.
El organismo cuenta con iniciativas destinadas a impulsar una gobernanza global coordinada de la inteligencia artificial, con participación de gobiernos, empresas, sociedad civil y expertos.
El objetivo es aprovechar los beneficios de la tecnología mientras se establecen mecanismos para proteger los derechos humanos y reducir riesgos.
Uno de los instrumentos centrales es el Pacto Digital Global, adoptado en septiembre de 2024 junto con el Pacto para el Futuro.
El marco busca aumentar la cooperación internacional sobre tecnología digital e IA y compromete a los Estados participantes a respetar el derecho internacional y los derechos humanos también en el entorno digital.
Türk reconoció además avances recientes como el establecimiento del Diálogo Global sobre Gobernanza de la IA y el Panel Científico Internacional Independiente sobre Inteligencia Artificial, pero considera que las medidas todavía no avanzan a la misma velocidad que las capacidades tecnológicas.
Privacidad, empleo y democracia también están en juego
Los escenarios extremos no son la única preocupación.
El alto comisionado ha pedido evaluar también las consecuencias de la IA sobre el empleo, la democracia, el medio ambiente y la privacidad.
En estos ámbitos los riesgos pueden presentarse de maneras mucho más cotidianas: sistemas automatizados que participan en decisiones laborales, recopilación masiva de información personal, generación de desinformación o algoritmos capaces de influir sobre el contenido que reciben millones de personas.
Naciones Unidas también ha advertido previamente que los sistemas generativos pueden utilizarse para producir y distribuir contenido dañino, incluidas imágenes sexuales no consentidas y material de abuso sexual infantil.
Por ello, la discusión internacional no se limita a preguntarse si algún día aparecerá una inteligencia artificial fuera de control.
También aborda los daños que los sistemas actuales pueden provocar o amplificar.
¿Qué pide Volker Türk a gobiernos y empresas?
La propuesta central es acelerar la creación de reglas internacionales antes de que las capacidades tecnológicas avancen todavía más.
Türk considera necesaria una cooperación entre los países donde se desarrollan los principales modelos y aquellos involucrados en sus cadenas de suministro.
También ha reclamado verificación independiente, colaboración mucho más estrecha en seguridad entre las empresas y acuerdos internacionales sobre límites que los sistemas no deberían cruzar.
El objetivo sería evitar que cada compañía determine unilateralmente qué nivel de riesgo está dispuesta a aceptar mientras compite por desarrollar modelos más poderosos.
La gran discusión: innovación contra seguridad
El debate no significa que la inteligencia artificial carezca de beneficios.
La propia ONU reconoce su capacidad para transformar sectores económicos, científicos y sociales y plantea que la gobernanza internacional debe servir tanto para aprovechar sus oportunidades como para gestionar sus riesgos.
El conflicto aparece cuando la velocidad de innovación supera la capacidad para medir sus consecuencias.
Para Türk, esperar hasta que ocurra un incidente grave sería una estrategia insuficiente.
Su mensaje de este lunes coloca precisamente esa discusión sobre la mesa: qué controles deben existir antes de entregar mayores capacidades y autonomía a los sistemas más avanzados de inteligencia artificial.
Preguntas frecuentes
¿La ONU pidió frenar la inteligencia artificial? No en el sentido de detener toda la IA. Volker Türk pidió acciones urgentes para controlar los riesgos de los sistemas más avanzados y que la gobernanza avance al ritmo de la tecnología.
¿Qué derechos podrían estar en riesgo? Türk mencionó expresamente los derechos a la vida, alimentación, privacidad, salud y seguridad, entre otros.
¿La IA puede dejar una ciudad sin agua? La ONU plantea esto como un riesgo potencial si sistemas autónomos con acceso a infraestructura crítica fallan. No significa que la IA ya haya provocado un corte de agua de ese tipo.
¿Qué es una IA agéntica? Es un tipo de sistema capaz de perseguir objetivos y ejecutar una secuencia de tareas o acciones con un grado mayor de autonomía que un chatbot convencional.
¿Qué propone la ONU? Mayor cooperación internacional, límites acordados, verificación independiente, mejores medidas de seguridad y una gobernanza basada en el derecho internacional y los derechos humanos.
