el Sol noticias ahora también está en Mastodon
Una piscicultora utiliza drones para alimentar los peces que cría. En un diálogo internacional auspiciado por la ONU se examina a la inteligencia artificial como herramienta para el desarrollo, pero se reclama gobernanza ante su "lado siniestrro", por ejemplo en el desarrollo de armas autónomas y su empleo en la agresión y acoso sexual sobre a niños, niñas y mujeres. Imagen: BM
En su intervención este lunes 6 en el Diálogo Mundial de las Naciones Unidas sobre la Gobernanza de la IA, en esta ciudad suiza de Ginebra, el titular de la ONU también planteó la necesidad de una mayor accesibilidad para los miles de millones de personas que no pueden acceder a esa tecnología revolucionaria.
Insistió en que cualquier acuerdo futuro “debe ser digno de confianza mundial” y priorizar la seguridad, destacando en particular la de los niños, para protegerlos de la manipulación y el abuso generados digitalmente.
Haciéndose eco de ese llamado, la presidenta de la Asamblea General de la organización, la alemana Annalena Baerbock, instó a la acción colectiva para contrarrestar ese “lado siniestro» de la IA.
Según sus informes, 99 % de los deepfakes (imágenes, audios y videos manipulados) son de naturaleza sexual y 96 % tienen como objetivo a mujeres y niñas.
Guterres dijo que otras prioridades para los controles y equilibrios globales en materia de IA deberían incluir el acceso hasta ahora restringido a la tecnología de autoaprendizaje para los países en desarrollo, mientras que todos los centros de datos de IA deberían funcionar con energía renovable para 2030.
El Diálogo congrega los días 6 y 7 de julio a representantes de países miembros de la ONU, empresas, investigadores, expertos técnicos y activistas de la sociedad civil, siguiendo llamados hechos en la ONU desde 2017.
Incluso ya se prevé una segunda edición de este Diálogo para mayo de 2027 en Nueva York.
La IA, con su simulación de procesos de inteligencia humana por parte de máquinas, “seguirá creciendo, podría cambiar el mundo de maneras que aún no comprendemos y alterar la dinámica de poder de nuestro planeta”, destacó el académico canadiense Yoshua Bengio, docente de la Universidad de Montreal.
Bengio, copresidente del Panel Científico Internacional Independiente sobre IA, de las Naciones Unidas, destacó que “pruebas muy preocupantes han demostrado que los modelos de IA de vanguardia son capaces de engañar a los humanos, quienes no comprenden cuándo están siendo evaluados”.
El Panel alertó en un reciente informe que la IA “podría causar daños catastróficos, ya sea por sí misma o debido a usuarios malintencionados”, y que esa tecnología “está superando tanto la comprensión científica como la capacidad de adaptación de los gobiernos”.
Guterres hizo mención al temido desarrollo de los “robots asesinos” -Sistemas de Armas Autónomas Letales-, que durante mucho tiempo pertenecieron a la ciencia ficción y ya son realidad en algunos escenarios de operaciones. Los desarrollan países como Estados Unidos, China, Israel y Corea del Sur.
Junto con ello, la desinformación a gran escala, los ciberataques, la vigilancia automatizada, la discriminación algorítmica y la pérdida de control sobre los sistemas más avanzados son algunos de los problemas planteados respecto de la IA.
Guterres dijo en su intervención que la IA “si se utiliza correctamente y se comparte ampliamente, podría comprimir décadas de desarrollo en años, y convertirse en el gran factor de igualdad del siglo XXI”.
Sostuvo que la seguridad y el bienestar de los niños deben ser prioritarios en cualquier futuro acuerdo de gobernanza, e instó a las naciones a adoptar un compromiso de seguridad infantil en el ámbito de la IA.
Ese compromiso debería comprender normas de seguridad de esa tecnología específicas para los niños, y tolerancia cero ante el abuso sexual: ninguna empresa debería permitir que su IA genere imágenes sexuales de niños, y todas las empresas deben detectarlas, denunciarlas y eliminarlas, expuso Guterres.
Como segunda prioridad en materia de controles de IA, el jefe de la ONU recalcó que los derechos humanos no son negociables.
“La IA jamás debe arrebatar la dignidad ni afianzar la discriminación. Y en cada decisión trascendental -en la justicia, en la sanidad, en la policía- las máquinas pueden informar, pero los humanos deben decidir y responder”, afirmó.
En cuanto a la inversión en IA, el secretario general señaló que la financiación privada para la infraestructura de IA asciende a unos 500 billones (millones de millones) de dólares, mientras que el apoyo público a la capacidad de IA en los países en desarrollo sigue siendo, en comparación, apenas “un error de redondeo”.
Para ayudar a cerrar esta brecha, anunció que más de 20 países apoyan su iniciativa para una red mundial de intercambio y cooperación en el desarrollo de capacidades de IA, respaldada por la ONU.
“No podemos permitir que la brecha digital se convierta en una brecha en inteligencia artificial, y que esta última se transforme en una brecha de desarrollo, una brecha de seguridad y una brecha de soberanía”, afirmó Guterres.
También llamó a la transparencia para que todas las grandes empresas de IA midan y divulguen públicamente el impacto ambiental total de sus sistemas: carbono, agua y tierra, y se comprometan a alimentar todos sus centros de datos con energía renovable para 2030.
Recordó informes según los cuales para 2030 las empresas de IA “podrían consumir más electricidad que todas las naciones, excepto cinco, y suficiente agua para satisfacer las necesidades de los 1300 millones de habitantes del África subsahariana durante todo un año”.
“La puede parecer intangible, pero su impacto no lo es”, resumió.
