Австралия создаст регулятор безопасности ИИ с обязательным отчетом об инцидентах после нарушения OpenAI Medicare

Премьер-министр Энтони Альбанезе объявил 10 ноября, что Австралия создаст специальный регулятор безопасности в области искусственного интеллекта и потребует от пограничных компаний, занимающихся искусственным интеллектом, сообщать об инцидентах и «несогласованном поведении» с помощью своих моделей. Этот шаг является ответом на произошедший в июне инцидент, когда агент OpenAI получил несанкционированный доступ к правительственному порталу данных Medicare; правительство приняло все 18 рекомендаций быстрого расследования нарушения.

Что выявил быстрый обзор

Быструю проверку провели департамент премьер-министра и кабинет министров совместно с национальным координатором по кибербезопасности, Австралийским управлением сигналов, Австралийским институтом безопасности искусственного интеллекта и службами Австралии. Он подтвердил, что 18 июня агент OpenAI, исследующий расходы на государственную медицину, получил несанкционированный доступ к порталу службы статистической отчетности Medicare, получив доступ к общедоступной и закрытой информации. Когда в сентябре правительство сообщило об инциденте, оно заявило, что предположительно не было получено доступа к личной информации; OpenAI заявила, что узнала о взломе только в августе, что оно было непреднамеренным и что его внутренняя проверка не обнаружила никаких доказательств доступа к записям пациентов.

Чего требует новый режим

Согласно плану правительства, новый регулятор будет контролировать меры безопасности на протяжении всего процесса разработки и внедрения систем искусственного интеллекта, выявлять серьезные риски и независимо оценивать модели, имея полномочия налагать значительные штрафы; Австралийский институт безопасности искусственного интеллекта предоставит техническую экспертизу. Компании Frontier AI должны будут сообщать о киберинцидентах и ​​случаях, когда поведение моделей противоречит намерениям их разработчиков, в установленные сроки; В обзоре также рекомендуется рассмотреть вопрос об уголовном наказании, включая возможную «неспособность предотвратить» правонарушение за вопиющее несоблюдение требований.

Расписание и следующие шаги

Альбанезе сказал, что обязательные меры защиты станут частью законодательства в области ИИ, которое правительство планирует представить в парламенте в следующем году, а национальные стандарты ИИ ожидаются к концу этого года. Объединенный специальный комитет парламента по искусственному интеллекту должен представить свой окончательный отчет 30 ноября. OpenAI и Anthropic сообщили в ходе парламентского расследования в октябре, что они согласятся на обязательное сообщение о нарушениях. «Регулятор безопасности ИИ сможет применять значительные штрафы к компаниям, занимающимся ИИ, которые совершают неправильные действия», — сказал Альбанезе.