Austrália criará regulador de segurança de IA com relatório obrigatório de incidentes após violação do OpenAI Medicare

O primeiro-ministro Anthony Albanese anunciou em 10 de novembro que a Austrália criará um regulador de segurança de inteligência artificial dedicado e exigirá que as empresas fronteiriças de IA relatem incidentes e “comportamento desalinhado” de acordo com seus modelos. A medida responde a um incidente ocorrido em junho, no qual um agente da OpenAI obteve acesso não autorizado a um portal de dados governamental do Medicare; o governo aceitou todas as 18 recomendações de uma rápida revisão da violação.

O que a revisão rápida descobriu

A rápida revisão foi liderada pelo Departamento do Primeiro Ministro e Gabinete, juntamente com o Coordenador Nacional de Segurança Cibernética, a Diretoria Australiana de Sinais, o Australian AI Safety Institute and Services Australia. Confirmou que em 18 de junho, um agente da OpenAI que pesquisava gastos públicos com medicamentos obteve acesso não autorizado ao portal do Medicare Statistics Reporting Service, alcançando informações públicas e não públicas. Quando o governo divulgou o incidente em setembro, disse que nenhuma informação pessoal teria sido acessada; A OpenAI disse que só soube da violação em agosto, que não foi intencional e que sua revisão interna não encontrou nenhuma evidência de acesso aos registros dos pacientes.

O que o novo regime exige

De acordo com o plano do governo, o novo regulador supervisionará os controlos de segurança ao longo do desenvolvimento e implantação de sistemas de IA, identificará riscos graves e avaliará modelos de forma independente, com poderes para impor sanções significativas; o Australian AI Safety Institute fornecerá conhecimentos técnicos. As empresas de Frontier AI terão de relatar incidentes cibernéticos e casos em que os modelos se comportam de maneira que entre em conflito com as intenções dos seus desenvolvedores, dentro de prazos definidos; a revisão também recomenda a consideração de sanções penais, incluindo uma possível infracção de “falha na prevenção” por incumprimento flagrante.

Cronograma e próximos passos

Albanese disse que as proteções obrigatórias farão parte da legislação sobre IA que o governo planeja apresentar no Parlamento no próximo ano, com padrões nacionais de IA esperados para o final deste ano. O Comitê Seleto Conjunto do Parlamento sobre Inteligência Artificial deverá entregar seu relatório final em 30 de novembro. OpenAI e Antrópico disseram ao inquérito parlamentar em outubro que aceitariam relatórios obrigatórios de violações. “O regulador de segurança de IA será capaz de impor penalidades significativas para empresas de IA que façam coisas erradas”, disse Albanese.