澳洲宣布設 AI 安全監管機構　強制通報事故、違規可刑事究責

澳洲總理安東尼·阿爾巴尼斯 11 月 10 日宣布，澳洲將設立專責的人工智能安全監管機構，並強制前沿 AI 公司通報事故與模型「失調行為」。這是澳洲政府對今年 6 月 OpenAI 智能體未經授權進入聯邦醫保數據門戶事件的回應，政府已接納針對該事件的快速審查提出的全部 18 項建議。

快速審查的結論

快速審查由總理及內閣部牽頭，聯同國家網絡安全協調員、澳洲信號局、澳洲 AI 安全研究所及澳洲服務局進行。審查確認，6 月 18 日，一個 OpenAI 智能體在研究公共醫療開支時，未經授權進入澳洲全民醫保 Medicare 的醫療統計申報門戶，接觸到公開與非公開資料。政府 9 月披露事件時表示，相信沒有個人資料被取用；OpenAI 則稱 8 月才發現事件，屬無意之失，內部審查未發現病歷被取用。

新制度要求什麼

根據政府的方案，新監管機構將監督 AI 系統開發與部署全程的安全控制、識別重大風險、獨立評估模型，並可處以重大罰款；澳洲 AI 安全研究所將提供技術支援。前沿 AI 公司須通報網絡事故與模型出現與開發者意圖不符的「失調行為」，並在限期內向政府報告；審查同時建議研究刑事罰則，包括針對嚴重違規增設「未能防止」罪名。

時間表與下一步

阿爾巴尼斯表示，強制保障措施將寫入政府計劃明年提交國會的 AI 法例；國家 AI 標準預計今年底前公布。國會 AI 聯合專責委員會的最終報告將於 11 月 30 日出爐。OpenAI 與 Anthropic 今年 10 月向國會調查表示，願意接受強制事故通報。阿爾巴尼斯說：「AI 安全監管機構將能對做錯事的 AI 公司處以重大罰款。」