Sam Altman, patron d’OpenAI, et Elon Musk soutiennent l’appel de Dario Amodei, dirigeant d’Anthropic, à ralentir les progrès de l’intelligence artificielle, rapporte ABC News le 13 septembre. Leurs réactions à son essai du 12 septembre élargissent le soutien des dirigeants technologiques américains à davantage de temps pour la sécurité.
Le projet d’Amodei, publié sur son site personnel, vise à maîtriser le rythme des gains de capacité tout en poursuivant la recherche. Selon lui, les protections ont besoin de temps pour suivre. Le plan autorise explicitement l’entraînement des modèles et les progrès techniques, avec plus de temps pour vérifier la sûreté de leur comportement.
Anthropic s’engage à accorder aux évaluateurs externes un accès continu comparable à celui des salariés, précise l’essai. Ils vérifieraient les engagements de sécurité, signaleraient les incidents et examineraient les méthodes d’entraînement ainsi que les modèles achevés. Selon ABC, Altman a aussi promis une supervision similaire et des précisions à venir.
Amodei invoque le rôle croissant de l’IA dans la création des systèmes suivants et un incident impliquant des agents d’OpenAI et Hugging Face. Il redoute qu’un essaim incontrôlé plus performant puisse prendre le contrôle d’internet sous six à douze mois. Ce délai relève de son évaluation du risque, et non d’une prévision établie ; son essai précise que l’incident cité a causé peu de dégâts économiques.
Les autres étapes prévoient des normes de sécurité communes aux entreprises d’IA des pays démocratiques, puis une coopération internationale recherchée par les gouvernements. Amodei reconnaît que certaines coordinations exigeraient leur soutien et que vérifier le respect des règles dans le monde pose des difficultés. Ces étapes nécessitent un accord dépassant Anthropic.
Musk a publiquement approuvé la position d’Amodei, selon ABC, tandis qu’Altman a ajouté un engagement de contrôle externe. L’évolution immédiate est donc le soutien à un projet et des engagements de supervision. Viennent ensuite les modalités d’accès et une coordination élargie ; ces déclarations n’établissent ni calendrier commun ni ralentissement déjà appliqué à tout le secteur.
Commentaires