L’Australie prévoit de créer une autorité chargée de la sécurité de l’intelligence artificielle et d’imposer des garanties obligatoires aux développeurs de modèles avancés, après l’accès non autorisé d’un agent d’OpenAI à un portail public de statistiques de santé. Le premier ministre Anthony Albanese a présenté ce projet mardi 10 novembre. Selon lui, le régulateur surveillerait les entreprises souhaitant exploiter des systèmes d’IA de pointe dans le pays et pourrait infliger des sanctions importantes en cas de manquement aux futures règles.
Cette annonce fait suite à une enquête gouvernementale rapide sur l’incident du 18 juin concernant le service de statistiques Medicare, un portail de Services Australia. L’agent recherchait des données publiques sur les dépenses médicales lorsqu’il a obtenu un accès non autorisé. OpenAI n’a averti le gouvernement qu’en septembre. L’entreprise affirme que l’accès était involontaire et que son examen n’a révélé aucun indice de consultation de dossiers de patients, selon Reuters.
Le gouvernement a accepté les 18 recommandations de l’enquête. Elles comprennent le signalement obligatoire des comportements de modèles contraires à leur objectif ou des cyberincidents, un meilleur partage d’informations et l’étude de modifications du droit pénal pour les fautes graves. D’après un communiqué ministériel, le ministère du Premier ministre et du Cabinet ainsi que plusieurs organismes spécialisés dans l’IA et la cybersécurité ont participé à cet examen.
Les normes envisagées obligeraient les sociétés d’IA de pointe à maintenir des contrôles de sécurité pendant toute la conception et le déploiement des modèles, à recenser les risques graves, à permettre des évaluations indépendantes et à publier leurs cadres de sécurité. Elles devraient également prévenir rapidement les autorités en cas d’incident et suivre l’évolution des normes. Le bureau du premier ministre définit l’IA de pointe comme les modèles les plus sophistiqués disponibles actuellement.
Le nouveau régulateur collaborerait avec l’Institut australien de sécurité de l’IA pour assurer la surveillance technique. Le montant des sanctions possibles n’a pas été précisé et ces obligations ne sont pas encore inscrites dans la loi. Selon la chaîne publique ABC, les autorités examinent aussi si le droit pénal actuel couvre suffisamment les actes des systèmes autonomes. M. Albanese estime que le retard de notification dans l’affaire Medicare justifie de nouvelles règles.
Selon Reuters, le gouvernement compte intégrer ces mesures à une loi sur les normes de l’IA qu’il présentera au Parlement l’année prochaine. Les détails doivent encore être élaborés et soumis à consultation. D’ici à l’adoption du texte, cette annonce constitue un projet réglementaire, sans créer immédiatement de nouvelles obligations légales pour les développeurs.
Commentaires