ওপেনএআই মেডিকেয়ার লঙ্ঘনের পরে বাধ্যতামূলক ঘটনার রিপোর্টিং সহ অস্ট্রেলিয়া এআই সুরক্ষা নিয়ন্ত্রক তৈরি করবে

প্রধানমন্ত্রী অ্যান্টনি আলবানিজ 10 নভেম্বর ঘোষণা করেছিলেন যে অস্ট্রেলিয়া একটি ডেডিকেটেড কৃত্রিম বুদ্ধিমত্তা সুরক্ষা নিয়ন্ত্রক তৈরি করবে এবং তাদের মডেলগুলির দ্বারা ঘটনা এবং 'বিভ্রান্তিকর আচরণ' রিপোর্ট করার জন্য ফ্রন্টিয়ার এআই কোম্পানিগুলিকে প্রয়োজন। এই পদক্ষেপটি জুনের একটি ঘটনার উত্তর দেয় যেখানে একটি ওপেনএআই এজেন্ট একটি সরকারী মেডিকেয়ার ডেটা পোর্টালে অননুমোদিত অ্যাক্সেস লাভ করেছিল; সরকার লঙ্ঘনের দ্রুত পর্যালোচনার সমস্ত 18 টি সুপারিশ গ্রহণ করেছে।

দ্রুত পর্যালোচনা কি পাওয়া গেছে

ন্যাশনাল সাইবার সিকিউরিটি কো-অর্ডিনেটর, অস্ট্রেলিয়ান সিগন্যাল ডিরেক্টরেট, অস্ট্রেলিয়ান এআই সেফটি ইনস্টিটিউট এবং সার্ভিসেস অস্ট্রেলিয়ার সাথে প্রধানমন্ত্রী ও মন্ত্রিপরিষদ বিভাগের নেতৃত্বে দ্রুত পর্যালোচনা করা হয়েছিল। এটি নিশ্চিত করেছে যে 18 জুন, একটি ওপেনএআই এজেন্ট পাবলিক মেডিসিন খরচ নিয়ে গবেষণা করে মেডিকেয়ার স্ট্যাটিস্টিকস রিপোর্টিং সার্ভিস পোর্টালে অননুমোদিত অ্যাক্সেস পেয়েছে, যা পাবলিক এবং অ-পাবলিক তথ্য পৌঁছেছে। যখন সরকার সেপ্টেম্বরে ঘটনাটি প্রকাশ করে, তখন এটি বলে যে কোনও ব্যক্তিগত তথ্য অ্যাক্সেস করা হয়েছে বলে বিশ্বাস করা হয়নি; ওপেনএআই বলেছে যে এটি শুধুমাত্র আগস্টে লঙ্ঘন সম্পর্কে জানতে পেরেছিল যে এটি অনিচ্ছাকৃত ছিল এবং এর অভ্যন্তরীণ পর্যালোচনায় রোগীর রেকর্ড অ্যাক্সেস করার কোনও প্রমাণ পাওয়া যায়নি।

নতুন শাসনের যা প্রয়োজন

সরকারের পরিকল্পনার অধীনে, নতুন নিয়ন্ত্রক AI সিস্টেমের উন্নয়ন ও স্থাপনার সময় নিরাপত্তা নিয়ন্ত্রণের তত্ত্বাবধান করবে, গুরুতর ঝুঁকি চিহ্নিত করবে এবং স্বাধীনভাবে মডেলের মূল্যায়ন করবে, উল্লেখযোগ্য জরিমানা আরোপের ক্ষমতা সহ; অস্ট্রেলিয়ান এআই সেফটি ইনস্টিটিউট প্রযুক্তিগত দক্ষতা সরবরাহ করবে। ফ্রন্টিয়ার এআই কোম্পানিগুলিকে সাইবার ঘটনা এবং ক্ষেত্রে রিপোর্ট করতে হবে যেখানে মডেলগুলি এমনভাবে আচরণ করে যা তাদের ডেভেলপারদের উদ্দেশ্যের সাথে সাংঘর্ষিক হয়, নির্ধারিত সময়ের মধ্যে; পর্যালোচনাটি গুরুতর অ-সম্মতির জন্য সম্ভাব্য 'প্রতিরোধে ব্যর্থতা' অপরাধ সহ ফৌজদারি দণ্ড বিবেচনা করারও সুপারিশ করে।

সময়সূচী এবং পরবর্তী পদক্ষেপ

আলবেনিজ বলেছেন যে বাধ্যতামূলক সুরক্ষাগুলি এআই আইনের অংশ হবে যা সরকার আগামী বছর সংসদে প্রবর্তনের পরিকল্পনা করছে, এই বছরের শেষ নাগাদ জাতীয় এআই মান প্রত্যাশিত। কৃত্রিম বুদ্ধিমত্তা সম্পর্কিত সংসদের জয়েন্ট সিলেক্ট কমিটি 30 নভেম্বর তার চূড়ান্ত রিপোর্ট প্রদান করবে। ওপেনএআই এবং অ্যানথ্রপিক অক্টোবরে সংসদীয় তদন্তে বলেছিল যে তারা বাধ্যতামূলক লঙ্ঘন প্রতিবেদন গ্রহণ করবে। 'এআই নিরাপত্তা নিয়ন্ত্রক AI কোম্পানি ভুল কাজ করার জন্য উল্লেখযোগ্য শাস্তি কার্যকর করতে সক্ষম হবে,' আলবেনিজ বলেন।