مدل هوش مصنوعی «جمینای» (Gemini) در جریان یک ارزیابی امنیت سایبری، با استفاده از دسترسی اینترنتی و اطلاعاتی که بهصورت عمومی در فضای آنلاین در دسترس بود، موفق شد به سه وبسایت دسترسی پیدا کند؛ رویدادی که بار دیگر نگرانیها درباره افزایش سطح خودمختاری عاملهای هوش مصنوعی و دسترسی آنها به سامانههای رایانهای را مطرح کرده است.
به گزارش پایگاه خبری حکمرانی هوشمند، این اتفاق در ماه مه و در جریان یک آزمایش امنیت سایبری توسط شرکت مستقل «ایرگیولار» (Irregular) رخ داد؛ شرکتی که در زمینه ارزیابی امنیت سایبری فعالیت میکند.
بر اساس اطلاعات منتشرشده، جمینای در جریان این ارزیابی توانست اطلاعات عمومی موجود در اینترنت را پیدا کند و سپس با حدس زدن اطلاعات ورود، از جمله نام کاربری و رمز عبور، به سه وبسایت دسترسی پیدا کند که تصور میکرد در محدوده آزمایش قرار دارند.
«هدر ادکینز»، معاون بخش مهندسی امنیت گوگل، درباره این رویداد گفت: «مدل جمینای در جریان یک ارزیابی آزمایشی استاندارد، اطلاعات عمومی را در فضای آنلاین پیدا کرد و با حدس زدن اطلاعات ورود (نام کاربری و رمز عبور)، به سه وبسایت دسترسی یافت که تصور میکرد در محدوده آزمون قرار دارند.»
وی افزود: «ما اطمینان حاصل کردیم که به آن سه مجموعه اطلاعرسانی شده است و با شریک آموزشی خود در خصوص تغییراتی که اکنون در فرآیندهای آزمایشیشان اعمال کردهاند، همکاری کردیم.»
ادکینز همچنین با اشاره به اهمیت آموزش مدلهای پیشرفته برای استفاده مسئولانه از قابلیتهایشان گفت: «این رویدادها بر اهمیت آموزش مدلهای هوش مصنوعی قدرتمند برای عملکرد مسئولانه تأکید دارند.»
سخنگوی شرکت ایرگیولار نیز اعلام کرد این حادثه به مشکلی مربوط بوده که آزمایشگاههای دیگر هوش مصنوعی را نیز تحت تأثیر قرار داده است. به گفته این شرکت، موضوع در اواخر ماه ژوئیه به آزمایشگاههای مربوط اطلاع داده شد و تمامی مشکلات شناساییشده از سوی ایرگیولار نیز هفتهها پیش برطرف شدهاند.
گزارشها همچنین نشان میدهد شرکتهای متا، آنتروپیک و اوپنایآی موارد مشابهی را در ارتباط با ارزیابیهای انجامشده توسط ایرگیولار گزارش کردهاند. متا در ماه اوت اعلام کرده بود که این رویداد شامل فرار از محیط ایزوله یا انجام یک حمله سایبری پیچیده نبوده است.
ایرگیولار نیز اعلام کرده که در حال تدوین بهترین روشها برای انجام ایمن ارزیابیهای امنیت سایبری مدلهای هوش مصنوعی است؛ اقدامی که در شرایط افزایش استفاده از عاملهای هوش مصنوعی و توسعه قابلیتهای خودکار آنها اهمیت بیشتری پیدا کرده است.
بر اساس گزارش والاستریت ژورنال، جمینای در یکی از موارد با حدس زدن گذرواژه موفق شد به یک سامانه محافظتشده دسترسی پیدا کند. در دو مورد دیگر نیز این مدل اطلاعات ورود را از یک مخزن عمومی پیدا کرده بود و از این طریق امکان دسترسی به سامانههای محافظتشده را به دست آورد.
با این حال، هدر ادکینز تأکید کرده است که جمینای در هر سه مورد پس از دسترسی، از ادامه عملیات هک خودداری کرده است.
این اتفاق در حالی رخ داده که مدلهای هوش مصنوعی بهتدریج از ابزارهای صرفاً پاسخگو به عاملهایی تبدیل میشوند که میتوانند در محیطهای آنلاین جستوجو کنند، اطلاعات را جمعآوری کنند و برخی اقدامات را بهصورت خودکار انجام دهند. همین افزایش سطح دسترسی، ضرورت ایجاد سازوکارهای دقیقتر برای محدود کردن دسترسی مدلها و ایمنسازی محیطهای آزمایشی را بیش از گذشته مطرح کرده است.
ماجرای جمینای همچنین نشان میدهد حتی در آزمایشهای کنترلشده امنیت سایبری، نحوه تعریف محدوده دسترسی و تفکیک محیط آزمایش از سامانههای واقعی اهمیت بالایی دارد. شرکت ایرگیولار اعلام کرده است که برای جلوگیری از تکرار چنین رخدادهایی، روی تدوین روشهای ایمنتر برای ارزیابی قابلیتهای امنیت سایبری هوش مصنوعی کار میکند.
انتهای پیام