Австралія створить регулятор безпеки ШІ з обов’язковим звітуванням про інциденти після порушення OpenAI Medicare

10 листопада прем’єр-міністр Ентоні Альбанезе оголосив, що Австралія створить спеціалізований регулятор безпеки штучного інтелекту та вимагатиме від передових компаній ШІ повідомляти про інциденти та «неузгоджену поведінку» їхніх моделей. Цей крок є відповіддю на інцидент у червні, коли агент OpenAI отримав несанкціонований доступ до державного порталу даних Medicare; уряд прийняв усі 18 рекомендацій швидкого розгляду порушення.

Що виявила швидка перевірка

Швидку перевірку очолювали Департамент прем’єр-міністра та Кабінет разом з Національним координатором з кібербезпеки, Австралійським управлінням сигналів, Австралійським інститутом безпеки ШІ та Службою Австралії. Було підтверджено, що 18 червня агент OpenAI, який досліджував державні витрати на медицину, отримав несанкціонований доступ до порталу Medicare Statistics Reporting Service, охоплюючи публічну та непублічну інформацію. Коли уряд оприлюднив цей інцидент у вересні, він сказав, що не було жодної особистої інформації, яка була доступна; OpenAI заявив, що дізнався про порушення лише в серпні, що воно було ненавмисним, і що його внутрішня перевірка не виявила жодних доказів доступу до записів пацієнтів.

Що вимагає новий режим

Згідно з планом уряду, новий регулятор контролюватиме контроль безпеки протягом усього процесу розробки та розгортання систем штучного інтелекту, виявлятиме серйозні ризики та незалежно оцінюватиме моделі, маючи повноваження накладати значні штрафи; Австралійський інститут безпеки ШІ надасть технічну експертизу. Компанії Frontier AI повинні будуть повідомляти про кіберінциденти та випадки, коли моделі поводяться таким чином, що суперечить намірам їхніх розробників, у встановлені терміни; огляд також рекомендує розглянути кримінальне покарання, включно з можливим «незапобіганням» злочину за грубе невиконання.

Розклад і наступні кроки

Альбанезе сказав, що обов’язковий захист стане частиною законодавства щодо штучного інтелекту, яке уряд планує внести в парламент наступного року, а національні стандарти штучного інтелекту очікуються до кінця цього року. Спільний спеціальний комітет парламенту зі штучного інтелекту має представити свій остаточний звіт 30 листопада. OpenAI і Anthropic повідомили під час парламентського розслідування в жовтні, що погодяться на обов’язкове звітування про порушення. «Регулятор безпеки штучного інтелекту зможе застосувати значні штрафи для компаній штучного інтелекту, які роблять неправильні речі», — сказав Альбанезе.