نتایج یک پژوهش جدید نشان میدهد همزمان با گسترش کاربردهای هوش مصنوعی، احتمال سوءاستفاده از این فناوری نیز افزایش یافته و همین موضوع، ضرورت تقویت حکمرانی هوشمند و سازوکارهای ایمنی در توسعه مدلهای هوش مصنوعی را بیش از گذشته آشکار کرده است.
به گزارش پایگاه خبری حکمرانی هوشمند، بر اساس گزارشی که پیش از انتشار در اختیار روزنامه نیویورکتایمز قرار گرفته، پژوهشگران شواهدی به دست آوردهاند که نشان میدهد اعضای گروه «بوکوحرام» از چتباتهای هوش مصنوعی برای انجام فعالیتهای روزمره و برخی مأموریتهای مرتبط با درگیریهای مسلحانه استفاده کردهاند.
یافتههای این پژوهش که بر پایه مصاحبه با ۲۷ عضو سابق این گروه در نیجریه طی دو سال گذشته انجام شده، نشان میدهد ابزارهایی مانند ChatGPT، متا، گراک، کلود، جمینای و دیپسیک برای دریافت اطلاعات فنی، رفع اشکال سلاحها و حتی کمک به برنامهریزی برخی عملیاتها مورد استفاده قرار گرفتهاند.
نویسندگان این پژوهش تأکید کردهاند که استفاده از هوش مصنوعی «صرفاً به چند فرد محدود» نبوده، بلکه بهصورت سازمانیافته انجام شده و شامل آموزش داخلی، انتقال دانش و تشکیل تیمهای اختصاصی بوده است. همچنین برخی کاربران توانستهاند بخشی از محدودیتهای امنیتی طراحیشده برای جلوگیری از ارائه پاسخهای مرتبط با خشونت را دور بزنند.
با این حال، پژوهشگران تأکید میکنند این یافتهها به معنای ارائه آسان دستورالعملهای خطرناک توسط چتباتهای امروزی نیست. بخش زیادی از دادههای این تحقیق مربوط به پایان سال ۲۰۲۴ است و شرکتهای توسعهدهنده اعلام کردهاند که نسخههای جدید مدلهای خود را به تدابیر حفاظتی قویتری مجهز کردهاند.
شرکت اوپنایآی نیز در واکنش به این گزارش اعلام کرد: «استفاده از چتجیپیتی برای حمایت از تروریسم یا اعمال خشونت، نقض سیاستهای این شرکت محسوب میشود» و این شرکت همچنان در حال تقویت سازوکارهای پیشگیری از سوءاستفاده است. متا نیز اعلام کرده است که یافتههای این پژوهش عمدتاً به نسخههای قدیمیتر مدلهای این شرکت مربوط میشود و از آن زمان، اقدامات ایمنی گستردهتری اعمال شده است.
کارشناسان امنیتی در عین حال هشدار میدهند که نباید نقش هوش مصنوعی را بیش از اندازه بزرگ جلوه داد. به گفته آنها، اجرای عملیاتهای تروریستی همچنان به عواملی مانند تأمین مالی، هماهنگی انسانی، ارتباطات و تدارکات میدانی وابسته است و چتباتها نمیتوانند جایگزین این مؤلفهها شوند.
انتهای پیام
