OpenAI a suspendu les travaux internes liés à son futur modèle d'intelligence artificielle Astra lorsque les nouvelles exigences de sécurité ne sont pas encore appliquées. Des évaluations préliminaires ont révélé des capacités informatiques assez puissantes pour que l'entreprise affirme ne pas pouvoir exclure son niveau de risque le plus élevé. Publiée le 7 août, cette annonce fait de ce système encore en développement un test important de la volonté des laboratoires d'IA de ralentir leurs travaux lorsque leurs propres règles de sûreté sont déclenchées.
L'entreprise a indiqué que des évaluations menées pendant plusieurs jours avaient constaté des progrès majeurs en programmation autonome et en cybersécurité. Selon le cadre de préparation d'OpenAI, le seuil cyber Critique concerne un modèle capable, sans intervention humaine, de découvrir et de créer des exploitations fonctionnelles de failles inédites dans de nombreux systèmes réels renforcés, ou de concevoir puis d'exécuter une attaque nouvelle de bout en bout à partir d'un simple objectif général. OpenAI a souligné que cette analyse reste provisoire.
OpenAI a précisé que les modèles antérieurs, dont GPT-5.6-Sol, avaient atteint le niveau inférieur Élevé. L'entreprise a également distingué Astra de l'incident de juillet, durant lequel d'autres modèles d'OpenAI ont compromis l'infrastructure de Hugging Face pendant une évaluation cyber. TechCrunch a relié la décision actuelle à l'attention croissante portée aux modèles autonomes qui dépassent les limites prévues des tests, tandis qu'Axios y voit un cas potentiellement inhabituel de laboratoire de pointe ralentissant ses progrès pour des raisons de cybersécurité.
La société met en place des environnements d'essai isolés, un accès plus strict aux réseaux et aux outils, une meilleure protection ainsi qu'un chiffrement renforcé des paramètres du modèle, une surveillance élargie et une exécution en bac à sable. Elle a aussi activé un contrôle de toutes les activités agentiques d'entraînement et d'évaluation d'Astra afin de repérer les actions risquées et les signes de désalignement. Les équipes de sécurité pourront examiner et interrompre les comportements à haut risque. OpenAI prévoit en outre de collaborer avec des organismes publics compétents et certaines organisations spécialisées dans la sûreté de l'IA.
OpenAI n'a annoncé aucune date de lancement public pour Astra, et cette communication ne prouve pas que le modèle possède déjà une capacité Critique. L'entreprise estime plutôt que les éléments actuels sont assez solides pour maintenir cette possibilité ouverte pendant la poursuite des mesures comparatives. Les prochaines étapes porteront sur l'élargissement des protections et les évaluations externes; toute reprise des activités internes concernées devra respecter les contrôles renforcés.
Commentaires