El primer Diálogo Global de las Naciones Unidas sobre la Gobernanza de la Inteligencia Artificial concluyó en Ginebra con advertencias contundentes de que la ciencia aún no puede garantizar que los sistemas avanzados de IA no causen daños catastróficos, mientras una nueva comisión mundial que reúne a líderes tecnológicos y jefes de Estado se congrega este miércoles en la ciudad suiza.
La cumbre de dos días, celebrada el 6 y el 7 de julio, reunió a gobiernos, empresas tecnológicas, académicos y grupos de la sociedad civil en la primera gran prueba de la nueva arquitectura de la ONU para supervisar la inteligencia artificial. El encuentro se apoyó en el trabajo del Panel Científico Internacional Independiente sobre IA, un órgano de 40 expertos procedentes de todas las regiones del mundo que publicó su primer informe de evaluación el 1 de julio.
Yoshua Bengio, copresidente del panel y uno de los investigadores más citados del campo, dijo a los delegados que la ciencia actualmente no puede garantizar que la IA no cause daños catastróficos a medida que sus capacidades siguen aumentando, ya sea por sí sola o en manos de usuarios malintencionados. Su copresidenta, la premio Nobel de la Paz Maria Ressa, advirtió que la manipulación impulsada por la IA amenaza la integridad de la información en todo el mundo, y describió el riesgo como una posible catástrofe informativa con consecuencias para todas las democracias.
Los delegados subrayaron varias preocupaciones estructurales, entre ellas la concentración del desarrollo de la IA en solo dos países, Estados Unidos y China, y una brecha mundial cada vez mayor que deja a las naciones en desarrollo sin acceso a los beneficios de la tecnología. El diálogo, copresidido por el embajador estonio Rein Tammsaar y la embajadora salvadoreña Egriselda López, examinó también los riesgos de que la IA se utilice con fines coercitivos y la erosión gradual de las instituciones democráticas.
Las conversaciones buscan establecer salvaguardias universalmente aceptadas y mecanismos de gobernanza multilateral coordinados a través de la ONU, en un momento en que las regulaciones nacionales siguen fragmentadas. El impulso se traslada ahora a la Comisión Global AI for Good, un nuevo órgano lanzado junto con la Unión Internacional de Telecomunicaciones que celebra su primera reunión este miércoles en Ginebra, reuniendo a jefes de Estado y altos ejecutivos tecnológicos.
Los observadores advirtieron que unas normas internacionales vinculantes siguen estando lejos y que la verdadera medida del proceso de Ginebra será si los gobiernos convierten sus recomendaciones en políticas nacionales. Se espera que el panel científico continúe publicando evaluaciones periódicas, ofreciendo a los responsables políticos una base común de evidencia mientras las capacidades de la IA avanzan a un ritmo que los reguladores apenas logran seguir.
Comentarios