Le premier Dialogue mondial des Nations unies sur la gouvernance de l'intelligence artificielle s'est achevé à Genève sur des avertissements sans détour : la science ne peut pas encore garantir que les systèmes d'IA avancés ne causeront pas de dommages catastrophiques. Dans le même temps, une nouvelle commission mondiale réunissant dirigeants technologiques et chefs d'État se réunit mercredi dans la ville suisse.
Le sommet de deux jours, tenu les 6 et 7 juillet, a rassemblé gouvernements, entreprises technologiques, universitaires et représentants de la société civile pour le premier grand test de la nouvelle architecture onusienne de supervision de l'intelligence artificielle. La rencontre s'appuyait sur les travaux du Groupe scientifique international indépendant sur l'IA, un organe de 40 experts issus de toutes les régions du monde, qui a publié son premier rapport d'évaluation le 1er juillet.
Yoshua Bengio, coprésident du groupe et l'un des chercheurs les plus cités du domaine, a déclaré aux délégués que la science ne peut actuellement pas garantir que l'IA ne causera pas de dommages catastrophiques à mesure que ses capacités augmentent, que ce soit de son propre fait ou entre les mains d'utilisateurs malveillants. Sa coprésidente, la lauréate du prix Nobel de la paix Maria Ressa, a averti que la manipulation alimentée par l'IA menace l'intégrité de l'information dans le monde entier, décrivant ce risque comme une possible catastrophe informationnelle aux conséquences majeures pour toutes les démocraties.
Les délégués ont souligné plusieurs préoccupations structurelles, notamment la concentration du développement de l'IA dans deux pays seulement, les États-Unis et la Chine, et un fossé mondial croissant qui prive les nations en développement des bénéfices de la technologie. Le dialogue, coprésidé par l'ambassadeur estonien Rein Tammsaar et l'ambassadrice salvadorienne Egriselda López, a également examiné les risques d'utilisation de l'IA à des fins coercitives et l'érosion progressive des institutions démocratiques.
Ces discussions visent à établir des garde-fous universellement acceptés et des mécanismes de gouvernance multilatérale coordonnés par les Nations unies, à un moment où les réglementations nationales restent fragmentées. L'élan se déplace désormais vers la Commission mondiale AI for Good, un nouvel organe lancé avec l'Union internationale des télécommunications, qui tient sa première réunion mercredi à Genève en réunissant chefs d'État et hauts dirigeants du secteur technologique.
Les observateurs ont toutefois prévenu que des règles internationales contraignantes restent lointaines et que la véritable mesure du processus de Genève sera la capacité des gouvernements à traduire ses recommandations en politiques nationales. Le groupe scientifique devrait continuer à publier des évaluations régulières, offrant aux décideurs une base factuelle commune alors que les capacités de l'IA progressent à un rythme que les régulateurs peinent à suivre.
Commentaires