La inteligencia artificial vuela y los gobiernos apenas caminan

Los desarrollos posibles en medicina y en general en la investigación científica con el empleo de la inteligencia artificial son innegables. Un informe de un grupo de expertos reunido por las Naciones Unidas expone la necesidad de conducir sus avances bajo normas que bloqueen el uso nocivo traducidos en delitos, desinformación, abuso en línea y concentración de poder en unos pocos países y empresas. Imagen: Irissca / Unesco

Ese informe preliminar del Panel Científico Internacional Independiente de la ONU sobre Inteligencia Artificial se presentará a los Estados, al sector privado y a otras entidades, en el Diálogo Global sobre la Gobernanza de la IA, auspiciado por la ONU, los días 6 y 7 de julio en Ginebra, Suiza.

Recuerda que hace tan solo unos años, esa tecnología podía responder preguntas o generar texto, y hoy en día puede escribir código informático, analizar grandes cantidades de datos, crear imágenes y vídeos realistas, ayudar a descubrir nuevos medicamentos y, cada vez más, actuar por sí sola con poca supervisión humana.

Los expertos afirman que, si bien las capacidades de la IA aumentan rápidamente, las normas que garantizan su uso seguro tienen dificultades para mantenerse al día. Y advierten de que la oportunidad de establecer una gobernanza global eficaz sigue abierta, pero puede que no lo esté por mucho tiempo.

Reconoce que, utilizada de forma responsable, la IA podría acelerar el progreso hacia los Objetivos de Desarrollo Sostenible (ODS) que integran la Agenda 2030 de la ONU, mediante la mejora de la atención sanitaria, la educación, la investigación científica, la agricultura y la accesibilidad para las personas con discapacidad.

Pero, sin salvaguardias, esa misma tecnología podría agravar la desigualdad, difundir desinformación, amenazar los derechos humanos, perturbar los mercados laborales y poner potentes sistemas de IA en manos de muy pocos gobiernos y empresas.

IA: solo una gran apuesta

El reto planteado en el informe consiste en encontrar la manera de aprovechar los enormes beneficios de la IA al tiempo que se previenen sus crecientes riesgos.

Expone que las potentes redes informáticas de última generación, la enorme cantidad de datos de entrenamiento, y las técnicas de IA mejoradas, han dado lugar a sistemas capaces de mantener conversaciones fluidas, realizar razonamientos científicos avanzados, desarrollar software y crear imágenes, audio y vídeo de gran realismo.

En lugar de limitarse a responder a las indicaciones, los “agentes de IA” pueden cada vez más planificar tareas, utilizar herramientas digitales, escribir software y completar tareas complejas con poca o ninguna supervisión humana.

En la lista de éxitos que reconoce el informe destacan los avances médicos: la IA ha predicho las estructuras de más de 200 millones de proteínas, y acelerado el descubrimiento de fármacos, el desarrollo de vacunas y la investigación sobre la resistencia a los antibióticos.

Los médicos están utilizando la IA para detectar de forma más temprana enfermedades como el cáncer de mama, mientras que los trabajadores de la salud en los países en desarrollo están utilizando herramientas de IA en idiomas locales para mejorar la atención al paciente.

Los sistemas de alerta temprana basados en inteligencia artificial están ayudando a identificar la inseguridad alimentaria antes de que se convierta en una crisis.

La IA apoya la investigación científica, haciendo que la tecnología sea más accesible para las personas con discapacidad, y ampliando las oportunidades de educación personalizada y apoyo para la salud mental.

El panel subraya que no se trata de posibilidades futuras: los avances señalados ya están ocurriendo.

Pero esa misma tecnología también crea nuevos peligros, como el abuso en línea: la IA impulsa la difusión de material de abuso sexual y deepfakes (vídeos manipulados) sexualmente explícitos, siendo las mujeres y los niños los más vulnerables.

La IA puede generar información falsa tan convincente como la verdad, socavando la confianza en el debate público y la democracia.

Los sistemas de IA se basan en invasión masiva de la privacidad

Los delincuentes están utilizando la IA para llevar a cabo ciberataques, fraudes y estafas de ingeniería social.

Algunos sistemas de IA pueden reforzar creencias o comportamientos dañinos, lo que puede provocar crisis de salud mental, incluido el suicidio.

A medida que la IA se vuelve más autónoma, los expertos advierten que podría resultar más difícil supervisarla y gobernarla sin mayores medidas de seguridad.

Y también está el impacto ambiental: los centros de datos consumen grandes cantidades de energía y contribuyen a las emisiones de gases de efecto invernadero, lo que provoca el calentamiento global.

Por otra parte, el informe señala que la revolución de la IA dista mucho de ser equitativa.

Si bien se utiliza en todo el mundo, el acceso sigue estando muy concentrado en los países desarrollados.

Estados Unidos posee tres cuartas partes de la capacidad de procesamiento de las supercomputadoras de IA líderes en el mundo, y China representa alrededor de 15 %, lo que otorga a esos dos países 90 % de la capacidad de procesamiento combinada.

La mayoría de los modelos de IA más avanzados también están siendo desarrollados por empresas con sede en esos dos países.

Muchos países en desarrollo carecen de la infraestructura informática, la experiencia técnica, los datos, la inversión y los recursos en lenguas locales necesarios para beneficiarse plenamente de la IA.

Como resultado, a menudo dependen de tecnologías que no pueden construir, inspeccionar, auditar ni adaptar a sus propias sociedades.

Los gobiernos se enfrentan a un “dilema de la evidencia”: los responsables políticos necesitan datos científicos fiables antes de introducir regulaciones, pero para cuando existen suficientes, la tecnología ya puede haber avanzado.

Aunque ya existen más de 40 marcos de gobernanza de la IA y directrices éticas en diferentes partes del mundo, siguen estando fragmentados, son inconsistentes y rara vez se ponen a prueba para comprobar si realmente funcionan.

Muchas evaluaciones de seguridad también las realizan las propias empresas que desarrollan la tecnología.

El informe concluye que se necesitan evaluaciones independientes más rigurosas, cooperación internacional y estándares comunes para garantizar que los sistemas de IA sigan siendo seguros, transparentes y responsables.

Al mismo tiempo, los países necesitan inversión en infraestructura digital, educación, conocimientos técnicos e instituciones para poder gobernar e implementar la IA según sus propios criterios.