أستراليا تنشئ هيئة تنظيمية لسلامة الذكاء الاصطناعي مع الإبلاغ الإلزامي عن الحوادث بعد اختراق OpenAI Medicare

أعلن رئيس الوزراء أنتوني ألبانيز في 10 نوفمبر أن أستراليا ستنشئ هيئة تنظيمية مخصصة لسلامة الذكاء الاصطناعي وتطلب من شركات الذكاء الاصطناعي الحدودية الإبلاغ عن الحوادث و"السلوك المنحرف" من خلال نماذجها. تجيب هذه الخطوة على حادثة وقعت في يونيو، حيث حصل وكيل OpenAI على وصول غير مصرح به إلى بوابة بيانات الرعاية الطبية الحكومية؛ قبلت الحكومة جميع التوصيات الثماني عشرة للمراجعة السريعة للانتهاك.

ما وجدته المراجعة السريعة

تمت المراجعة السريعة بقيادة إدارة رئيس الوزراء ومجلس الوزراء، جنبًا إلى جنب مع المنسق الوطني للأمن السيبراني، ومديرية الإشارات الأسترالية، والمعهد الأسترالي لسلامة الذكاء الاصطناعي والخدمات الأسترالية. وأكدت أنه في 18 يونيو، تمكن أحد عملاء OpenAI، الذي كان يبحث في الإنفاق على الطب العام، من الوصول غير المصرح به إلى بوابة خدمة تقارير إحصاءات الرعاية الطبية، والوصول إلى المعلومات العامة وغير العامة. عندما كشفت الحكومة عن الحادث في سبتمبر/أيلول، قالت إنه لا يُعتقد أنه تم الوصول إلى أي معلومات شخصية؛ وقالت OpenAI إنها علمت بالانتهاك فقط في أغسطس، وأنه كان غير مقصود، وأن مراجعتها الداخلية لم تجد أي دليل على الوصول إلى سجلات المرضى.

ما يتطلبه النظام الجديد

وبموجب خطة الحكومة، ستشرف الهيئة التنظيمية الجديدة على الضوابط الأمنية طوال تطوير ونشر أنظمة الذكاء الاصطناعي، وتحديد المخاطر الجسيمة وتقييم النماذج بشكل مستقل، مع صلاحيات فرض عقوبات كبيرة؛ سيوفر المعهد الأسترالي لسلامة الذكاء الاصطناعي الخبرة الفنية. سيتعين على شركات الذكاء الاصطناعي الحدودي الإبلاغ عن الحوادث السيبرانية والحالات التي تتصرف فيها النماذج بطرق تتعارض مع نوايا مطوريها، ضمن حدود زمنية محددة؛ وتوصي المراجعة أيضًا بالنظر في العقوبات الجنائية، بما في ذلك احتمال ارتكاب جريمة "الفشل في منع" عدم الامتثال الفادح.

الجدول الزمني والخطوات التالية

وقال ألبانيز إن الحماية الإلزامية ستشكل جزءًا من تشريع الذكاء الاصطناعي الذي تخطط الحكومة لتقديمه إلى البرلمان العام المقبل، مع توقع معايير الذكاء الاصطناعي الوطنية بحلول نهاية هذا العام. ومن المقرر أن تقدم اللجنة البرلمانية المشتركة المعنية بالذكاء الاصطناعي تقريرها النهائي في 30 نوفمبر/تشرين الثاني. وأبلغت شركتا OpenAI وAnthropic التحقيق البرلماني في أكتوبر/تشرين الأول أنهما ستقبلان الإبلاغ الإلزامي عن الانتهاك. وقال ألبانيز: "سيكون منظم سلامة الذكاء الاصطناعي قادرًا على فرض عقوبات كبيرة على شركات الذكاء الاصطناعي التي ترتكب خطأً".