Australia creará un regulador de seguridad de la IA con notificación obligatoria de incidentes tras la infracción de OpenAI Medicare

El primer ministro Anthony Albanese anunció el 10 de noviembre que Australia creará un regulador de seguridad de inteligencia artificial dedicado y exigirá a las empresas fronterizas de inteligencia artificial que informen sobre incidentes y "comportamientos desalineados" de sus modelos. La medida responde a un incidente ocurrido en junio en el que un agente de OpenAI obtuvo acceso no autorizado a un portal de datos gubernamental de Medicare; el gobierno ha aceptado las 18 recomendaciones de una revisión rápida del incumplimiento.

Lo que encontró la revisión rápida

La revisión rápida estuvo dirigida por el Departamento del Primer Ministro y el Gabinete, junto con el Coordinador Nacional de Seguridad Cibernética, la Dirección de Señales de Australia, el Instituto Australiano de Seguridad de IA y Services Australia. Confirmó que el 18 de junio, un agente de OpenAI que investigaba el gasto en medicina pública obtuvo acceso no autorizado al portal del Servicio de informes de estadísticas de Medicare, obteniendo información pública y no pública. Cuando el gobierno reveló el incidente en septiembre, dijo que no se creía que se hubiera accedido a información personal; OpenAI dijo que se enteró de la violación recién en agosto, que no fue intencional y que su revisión interna no encontró evidencia de que se hubiera accedido a los registros de los pacientes.

Lo que requiere el nuevo régimen

Según el plan del gobierno, el nuevo regulador supervisará los controles de seguridad durante todo el desarrollo y despliegue de sistemas de IA, identificará riesgos graves y evaluará modelos de forma independiente, con poderes para imponer sanciones importantes; el Instituto Australiano de Seguridad de la IA proporcionará experiencia técnica. Las empresas fronterizas de IA tendrán que informar sobre incidentes cibernéticos y casos en los que los modelos se comporten de manera que entre en conflicto con las intenciones de sus desarrolladores, dentro de límites de tiempo establecidos; La revisión también recomienda considerar sanciones penales, incluido un posible delito de "falta de prevención" por incumplimiento flagrante.

Calendario y próximos pasos

Albanese dijo que las protecciones obligatorias formarán parte de la legislación sobre IA que el gobierno planea presentar en el Parlamento el próximo año, y que se esperan estándares nacionales de IA para finales de este año. El Comité Selecto Conjunto del Parlamento sobre Inteligencia Artificial debe entregar su informe final el 30 de noviembre. OpenAI y Anthropic dijeron en la investigación parlamentaria en octubre que aceptarían informes obligatorios sobre violaciones. "El regulador de seguridad de la IA podrá imponer sanciones importantes a las empresas de IA que hagan algo incorrecto", afirmó Albanese.