افشای موارد جدید از فعالیت عاملهای خودکار هوش مصنوعی در نفوذ به سامانههای رایانهای، بار دیگر بحث امنیت این فناوری را در کانون توجه قرار داده است. تازهترین گزارشها نشان میدهد دو شرکت پیشرو در توسعه هوش مصنوعی، اوپنایآی و آنتروپیک، در جریان بررسیهای امنیتی خود با نمونههای جدیدی از رفتارهای ناخواسته مدلهای هوش مصنوعی مواجه شدهاند.
به گزارش پایگاه خبری حکمرانی هوشمند، اوپنایآی تحقیقات خود درباره رویداد نفوذ یکی از عاملهای هوش مصنوعی به پلتفرم هاگینگ فیس را گسترش داده و در این روند، موارد دیگری از فعالیتهای غیرمنتظره این عاملها شناسایی شده است.
بر اساس اظهارات منابع آگاه، این موارد در جریان بررسی نحوه خروج یکی از عاملهای هوش مصنوعی از محیط آزمایشی و ورود آن به هاگینگ فیس کشف شده است. با این حال، یکی از این منابع تأکید کرده است که «ماهیت فرار عاملهای هوش مصنوعی محدود بوده و تصور نمیشود هیچکدام از آنها شبکه اوپنایآی را ترک کرده باشند.»
سخنگوی اوپنایآی نیز اعلام کرد این شرکت علاوه بر بررسی رویداد مربوط به هاگینگ فیس، در حال ارزیابی «فعالیتهای وسیعتر مدلها» است تا ابعاد این رفتارها مشخص شود.
کارشناسان معتقدند انتشار چنین گزارشهایی میتواند درخواستها برای تدوین قوانین و مقررات سختگیرانهتر در زمینه توسعه و بهکارگیری هوش مصنوعی را افزایش دهد. از نگاه متخصصان ایمنی هوش مصنوعی، این رویدادها نشان میدهد توانایی آزمایشگاههای پیشرفته در توسعه عاملهای خودکار، با سرعتی بیشتر از ابزارهای کنترل و نظارت بر آنها در حال رشد است؛ موضوعی که اهمیت حکمرانی هوشمند در مدیریت فناوریهای نوظهور را بیش از گذشته آشکار میکند.
در همین حال، شرکت آنتروپیک نیز از شناسایی چند مورد نفوذ در جریان آزمایش مدل هوش مصنوعی «کلاود» خبر داده است. بر اساس گزارش منتشرشده، این مدلها بهدلیل یک خطای ناخواسته در فرآیند ارزیابی، برخلاف برنامهریزی اولیه به اینترنت عمومی دسترسی پیدا کردند و همین موضوع امکان دسترسی غیرمجاز به سامانههای سه سازمان را فراهم کرد.
آنتروپیک در توضیح این رویداد اعلام کرد: «از آنجا که مدلهای هوش مصنوعی به طور تصادفی اجازه دسترسی به اینترنت آزاد را یافتند، حملات مذکور امکانپذیر شدهاند.»
این شرکت هشدار داد این اتفاق نشان میدهد هوش مصنوعی میتواند هم برای تقویت امنیت سایبری و هم برای دور زدن چارچوبهای امنیتی مورد استفاده قرار گیرد و در عین حال کنترل چنین سامانههایی برای توسعهدهندگان، چالشی جدی محسوب میشود.
آنتروپیک همچنین اعلام کرد این موارد پس از بررسی ۱۴۱ هزار و ۶ آزمایش امنیتی شناسایی شدهاند. به گفته این شرکت، مدلهای «کلاود اوپوس ۴.۷»، «کلاود مایتوس ۵» و یکی از مدلهای آزمایشی داخلی در این رویدادها نقش داشتهاند. قدیمیترین مورد ثبتشده نیز به آوریل بازمیگردد؛ زمانی که این مدلها در محیطهایی فاقد محدودیتهای ایمنی و صرفاً برای ارزیابی توانمندیهای هوش مصنوعی مورد آزمایش قرار گرفته بودند.
این رویدادها بار دیگر نشان میدهد همزمان با پیشرفت سریع عاملهای هوش مصنوعی، توسعه سازوکارهای نظارتی، استانداردهای ایمنی و چارچوبهای حکمرانی هوشمند برای مدیریت ریسکهای این فناوری، به یکی از مهمترین اولویتهای صنعت هوش مصنوعی در جهان تبدیل شده است.
انتهای پیام