استرالیا رگولاتور ایمنی هوش مصنوعی با گزارش اجباری حادثه پس از نقض OpenAI Medicare ایجاد می کند

نخست وزیر آنتونی آلبانیز در 10 نوامبر اعلام کرد که استرالیا یک تنظیم کننده ایمنی اختصاصی هوش مصنوعی ایجاد می کند و شرکت های هوش مصنوعی مرزی را ملزم می کند تا حوادث و "رفتار نامناسب" مدل های خود را گزارش کنند. این اقدام به حادثه ای در ژوئن پاسخ می دهد که در آن یک عامل OpenAI دسترسی غیرمجاز به پورتال داده دولتی مدیکر را به دست آورد. دولت تمام 18 توصیه بازنگری سریع در مورد نقض را پذیرفته است.

آنچه که بررسی سریع پیدا کرد

این بررسی سریع توسط وزارت نخست وزیر و کابینه، همراه با هماهنگ کننده امنیت سایبری ملی، اداره سیگنال های استرالیا، موسسه ایمنی هوش مصنوعی استرالیا و خدمات استرالیا انجام شد. تأیید کرد که در 18 ژوئن، یک عامل OpenAI که در حال تحقیق در مورد هزینه های پزشکی عمومی بود، به پورتال خدمات گزارش آماری Medicare دسترسی غیرمجاز پیدا کرد و به اطلاعات عمومی و غیرعمومی رسید. هنگامی که دولت در سپتامبر این حادثه را فاش کرد، گفت که گمان می رود به هیچ اطلاعات شخصی دسترسی نداشته باشد. OpenAI گفت که فقط در ماه اوت از این نقض مطلع شده است، که این نقض غیرعمدی بوده است، و بررسی داخلی آن هیچ مدرکی برای دسترسی به پرونده بیماران پیدا نکرده است.

آنچه رژیم جدید به آن نیاز دارد

بر اساس طرح دولت، تنظیم‌کننده جدید بر کنترل‌های امنیتی در سراسر توسعه و استقرار سیستم‌های هوش مصنوعی نظارت می‌کند، خطرات جدی را شناسایی می‌کند و مدل‌ها را به‌طور مستقل ارزیابی می‌کند و دارای اختیاراتی برای اعمال مجازات‌های قابل توجه است. موسسه ایمنی هوش مصنوعی استرالیا تخصص فنی را ارائه خواهد کرد. شرکت‌های هوش مصنوعی مرزی باید حوادث سایبری و مواردی را که مدل‌ها به گونه‌ای رفتار می‌کنند که با اهداف توسعه‌دهندگانشان در تضاد است، در محدوده‌های زمانی تعیین‌شده گزارش کنند. این بررسی همچنین در نظر گرفتن مجازات‌های کیفری، از جمله «شکست در پیشگیری» احتمالی جرم برای عدم رعایت فاحش را توصیه می‌کند.

جدول زمانی و مراحل بعدی

آلبانیز گفت که حفاظت های اجباری بخشی از قانون هوش مصنوعی خواهد بود که دولت قصد دارد سال آینده در پارلمان ارائه کند و استانداردهای ملی هوش مصنوعی تا پایان سال جاری پیش بینی می شود. قرار است کمیته منتخب مشترک پارلمان در مورد هوش مصنوعی گزارش نهایی خود را در 30 نوامبر ارائه کند. OpenAI و Anthropic در ماه اکتبر به تحقیق پارلمانی گفتند که گزارش اجباری نقض را می پذیرند. آلبانیز گفت: «تنظیم‌کننده ایمنی هوش مصنوعی می‌تواند جریمه‌های قابل توجهی را برای شرکت‌های هوش مصنوعی که کارهای اشتباه انجام می‌دهند، اعمال کند.