Le service météo américain crée des cartes avec des villes imaginaires

Le National Weather Service américain fait l'objet d'un examen minutieux après qu'une carte de prévisions générée par intelligence artificielle a affiché des noms de villes fictives dans l'Idaho, soulignant les inquiétudes concernant la dépendance croissante de l'agence à l'IA dans un contexte de réductions significatives d'effectifs. La carte, créée par le bureau du NWS à Missoula, dans le Montana, montrait des prévisions de vent pour des lieux appelés Whata Bod et Orangeotild dans la région de Camas Prairie, qui n'existent pas. L'erreur a été découverte ce week-end lorsque le graphique de prévision a été partagé sur les réseaux sociaux avec une légende invitant les résidents à s'accrocher à leurs chapeaux en raison de vents forts attendus. La carte a été rapidement supprimée lundi après que le Washington Post a contacté les responsables pour poser des questions sur les inexactitudes. La porte-parole du NWS, Erica Grow Cei, a confirmé que les erreurs provenaient d'une carte de base générée par l'IA, déclarant que l'agence avait rapidement corrigé le problème. Cet incident n'est pas isolé. Un tweet du 25 novembre du bureau du NWS à Rapid City, dans le Dakota du Sud, contenait également des erreurs d'orthographe sur les lieux et affichait par inadvertance le logo de Google Gemini dans ses prévisions, suggérant une utilisation plus large des outils d'IA générative au sein de l'agence. Cei a noté que le NWS explore des moyens stratégiques pour continuer à optimiser la prestation de services aux Américains, y compris la mise en œuvre de l'IA là où c'est approprié. Les erreurs de l'IA ont soulevé de sérieuses préoccupations parmi les experts concernant la confiance et la sécurité publiques. Claire Wardle, professeure associée à l'université Cornell spécialisée dans la désinformation et l'IA, a averti que si cette prévision particulière avec des noms de villes fictifs ridicules ne présentait pas beaucoup de risques, la même technologie pourrait facilement commettre des erreurs catastrophiques affectant des vies humaines réelles. Chris Gloninger, expert en communication météorologique et climatique, a exprimé sa crainte que la création de villes inexistantes nuise à la confiance publique. La dépendance accrue aux outils d'IA intervient alors que le NWS fait face à de graves pénuries de personnel suite aux efforts de l'administration Trump pour réduire le gouvernement fédéral. Au cours de l'année écoulée, des centaines d'employés ont été licenciés, ont pris leur retraite ou ont quitté l'agence. La NOAA, l'agence mère du NWS, a annoncé des plans pour réduire 17 pour cent du personnel et s'est engagée à pourvoir de nombreux postes d'ici septembre, mais les pertes ont considérablement mis à rude épreuve le service. L'incident souligne les difficultés de croissance de l'intégration de l'IA dans les services publics critiques. Bien que l'intelligence artificielle offre des solutions potentielles aux défis liés à la main-d'œuvre, l'hallucination de communautés entièrement fictives démontre les limites de la technologie et la nécessité d'une surveillance humaine robuste.