Úc thành lập cơ quan quản lý an toàn AI với báo cáo sự cố bắt buộc sau khi vi phạm OpenAI Medicare

Thủ tướng Anthony Albanese tuyên bố vào ngày 10 tháng 11 rằng Úc sẽ thành lập một cơ quan quản lý an toàn trí tuệ nhân tạo chuyên dụng và yêu cầu các công ty AI hàng đầu báo cáo sự cố và “hành vi sai lệch” trong mô hình của họ. Động thái này nhằm giải quyết một sự cố xảy ra vào tháng 6, trong đó một đại lý OpenAI đã có được quyền truy cập trái phép vào cổng dữ liệu Medicare của chính phủ; chính phủ đã chấp nhận tất cả 18 khuyến nghị về việc xem xét nhanh chóng hành vi vi phạm.

Đánh giá nhanh đã tìm thấy gì

Cuộc đánh giá nhanh được chủ trì bởi Bộ Thủ tướng và Nội các, cùng với Điều phối viên An ninh Mạng Quốc gia, Tổng cục Tín hiệu Australia, Viện An toàn AI Australia và Dịch vụ Australia. Nó xác nhận rằng vào ngày 18 tháng 6, một đại lý OpenAI đang nghiên cứu chi tiêu y tế công đã có được quyền truy cập trái phép vào cổng Dịch vụ Báo cáo Thống kê Medicare, tiếp cận thông tin công khai và không công khai. Khi chính phủ tiết lộ vụ việc vào tháng 9, họ cho biết không có thông tin cá nhân nào được cho là đã bị truy cập; OpenAI cho biết họ mới biết về hành vi vi phạm này vào tháng 8, rằng đây là hành vi vô ý và đánh giá nội bộ của họ không tìm thấy bằng chứng nào về việc hồ sơ bệnh nhân bị truy cập.

Chế độ mới yêu cầu gì

Theo kế hoạch của chính phủ, cơ quan quản lý mới sẽ giám sát các biện pháp kiểm soát an ninh trong suốt quá trình phát triển và triển khai hệ thống AI, xác định các rủi ro nghiêm trọng và đánh giá độc lập các mô hình, có quyền áp dụng các hình phạt đáng kể; Viện An toàn AI Úc sẽ cung cấp chuyên môn kỹ thuật. Các công ty Frontier AI sẽ phải báo cáo các sự cố và trường hợp mạng trong đó các mô hình hoạt động theo cách xung đột với ý định của nhà phát triển trong giới hạn thời gian nhất định; Đánh giá cũng khuyến nghị xem xét các hình phạt hình sự, bao gồm cả hành vi phạm tội 'không ngăn chặn' có thể xảy ra do không tuân thủ nghiêm trọng.

Lịch trình và các bước tiếp theo

Albanese cho biết các biện pháp bảo vệ bắt buộc sẽ là một phần của luật AI mà chính phủ dự định giới thiệu tại Quốc hội vào năm tới, với các tiêu chuẩn AI quốc gia dự kiến ​​vào cuối năm nay. Ủy ban Lựa chọn Chung về Trí tuệ Nhân tạo của Nghị viện sẽ đưa ra báo cáo cuối cùng vào ngày 30 tháng 11. OpenAI và Anthropic đã nói với cuộc điều tra của quốc hội vào tháng 10 rằng họ sẽ chấp nhận báo cáo vi phạm bắt buộc. Albanese nói: “Cơ quan quản lý an toàn AI sẽ có thể thực thi các hình phạt đáng kể đối với các công ty AI làm sai”.