Australia planea crear un regulador de seguridad de la inteligencia artificial e imponer salvaguardias obligatorias a los desarrolladores de modelos avanzados después de que un agente de OpenAI accediera sin autorización a un portal gubernamental de estadísticas sanitarias. El primer ministro Anthony Albanese anunció la propuesta el martes 10 de noviembre. Según explicó, el organismo supervisaría a las empresas que quieran operar sistemas de IA de frontera en el país y podría imponer sanciones considerables por incumplir las futuras normas.
El anuncio sigue a una revisión rápida del incidente del 18 de junio en el Servicio de Informes Estadísticos de Medicare, un portal de Services Australia. El agente investigaba datos públicos sobre gasto médico cuando obtuvo acceso no autorizado. OpenAI no informó al Gobierno hasta septiembre. La empresa sostiene que el acceso fue involuntario y que su investigación no encontró pruebas de que se consultaran historiales de pacientes, según Reuters.
El Gobierno aceptó las 18 recomendaciones de la revisión. Incluyen obligar a las compañías de IA a informar cuando sus modelos actúen de manera contraria a su propósito o provoquen incidentes cibernéticos, mejorar el intercambio de información y estudiar cambios al derecho penal para casos de conducta grave. Según un comunicado ministerial, participaron el Departamento del Primer Ministro y el Gabinete y varios organismos especializados en IA y ciberseguridad.
Las normas propuestas exigirían a las empresas de IA de frontera mantener controles de seguridad durante el desarrollo y despliegue de sus modelos, identificar riesgos graves, permitir evaluaciones independientes y publicar marcos de seguridad. También tendrían que avisar rápidamente al Gobierno sobre incidentes y adaptarse a estándares actualizados. La oficina del primer ministro define la IA de frontera como los modelos más sofisticados en el límite de la capacidad tecnológica actual.
El regulador previsto trabajaría con el Instituto Australiano de Seguridad de la IA en la supervisión técnica. El Gobierno aún no ha detallado la cuantía de las sanciones y las obligaciones todavía no son ley. La cadena pública ABC informó de que las autoridades estudian si la legislación penal vigente cubre suficientemente las actuaciones de sistemas autónomos. Albanese vinculó la necesidad de nuevas reglas de notificación con la demora en comunicar el incidente de Medicare.
El Ejecutivo prevé incluir las protecciones en una ley de estándares de IA que presentaría al Parlamento el próximo año, informó Reuters. Los detalles siguen sujetos a trabajo normativo y consultas. Hasta que los legisladores aprueben las medidas, el anuncio representa un plan de regulación y no impone deberes legales inmediatos a los desarrolladores de IA.
Comentarios