Ang Australia ay lumikha ng AI safety regulator na may mandatoryong pag-uulat ng insidente pagkatapos ng paglabag sa OpenAI Medicare

Inihayag ng Punong Ministro na si Anthony Albanese noong Nobyembre 10 na ang Australia ay gagawa ng isang dedikadong artificial intelligence safety regulator at mangangailangan ng mga frontier AI company na mag-ulat ng mga insidente at 'maling pag-uugali' ng kanilang mga modelo. Sinasagot ng hakbang ang isang insidente noong Hunyo kung saan ang isang ahente ng OpenAI ay nakakuha ng hindi awtorisadong pag-access sa isang portal ng data ng Medicare ng gobyerno; tinanggap ng gobyerno ang lahat ng 18 rekomendasyon ng mabilis na pagsusuri sa paglabag.

Ano ang nakita ng mabilis na pagsusuri

Ang mabilis na pagsusuri ay pinangunahan ng Kagawaran ng Punong Ministro at Gabinete, kasama ang National Cyber Security Coordinator, ang Australian Signals Directorate, ang Australian AI Safety Institute and Services Australia. Kinumpirma nito na noong Hunyo 18, ang isang ahente ng OpenAI na nagsasaliksik sa paggasta sa pampublikong gamot ay nakakuha ng hindi awtorisadong pag-access sa portal ng Medicare Statistics Reporting Service, na umaabot sa pampubliko at hindi pampublikong impormasyon. Nang ibunyag ng gobyerno ang insidente noong Setyembre, sinabi nitong walang personal na impormasyon ang pinaniniwalaang na-access; Sinabi ng OpenAI na nalaman lamang nito ang paglabag noong Agosto, na ito ay hindi sinasadya, at ang panloob na pagsusuri nito ay walang nakitang ebidensya na ang mga rekord ng pasyente ay na-access.

Ano ang kailangan ng bagong rehimen

Sa ilalim ng plano ng pamahalaan, ang bagong regulator ay mangangasiwa sa mga kontrol sa seguridad sa buong pagbuo at pag-deploy ng mga AI system, tutukuyin ang mga seryosong panganib at independiyenteng suriin ang mga modelo, na may mga kapangyarihang magpataw ng malalaking parusa; ang Australian AI Safety Institute ay magbibigay ng teknikal na kadalubhasaan. Ang mga kumpanya ng Frontier AI ay kailangang mag-ulat ng mga insidente sa cyber at mga kaso kung saan kumikilos ang mga modelo sa mga paraan na sumasalungat sa mga intensyon ng kanilang mga developer, sa loob ng itinakdang mga limitasyon sa oras; Inirerekomenda din ng pagsusuri na isaalang-alang ang mga parusang kriminal, kabilang ang isang posibleng 'pagkabigong pigilan' ang pagkakasala para sa matinding hindi pagsunod.

Timetable at mga susunod na hakbang

Sinabi ng Albanese na ang mga mandatoryong proteksyon ay magiging bahagi ng batas ng AI na plano ng gobyerno na ipakilala sa Parliament sa susunod na taon, na may inaasahang pambansang pamantayan ng AI sa katapusan ng taong ito. Ang Joint Select Committee ng Parliament on Artificial Intelligence ay nakatakdang maghatid ng huling ulat nito sa Nobyembre 30. Sinabi ng OpenAI at Anthropic sa parliamentary inquiry noong Oktubre na tatanggapin nila ang mandatoryong pag-uulat ng paglabag. 'Magagawa ng AI safety regulator na magpatupad ng malalaking parusa para sa mga kumpanya ng AI na gumagawa ng maling bagay,' sabi ni Albanese.