شرکت هوش مصنوعی آنتروپیک در گزارشی تازه از شناسایی چند مورد سوءاستفاده از مدل هوش مصنوعی کلود برای پیشبرد تحقیقات مرتبط با سلاحهای زیستی خبر داده و اعلام کرده است حساب کاربرانی را که از این فناوری در فعالیتهای مشکوک استفاده کردهاند، مسدود کرده است.
به گزارش پایگاه خبری حکمرانی هوشمند، آنتروپیک در مجموعهای از مطالعات موردی، نمونههایی از شیوههایی را تشریح کرده که مدلهای هوش مصنوعی این شرکت میتوانند در صورت استفاده نادرست، برای فعالیتهای پرخطر به کار گرفته شوند. به نقل از انگجت، این شرکت اعلام کرده است چندین دانشمند را شناسایی کرده که از مدلهای هوش مصنوعی آنتروپیک برای تحقیقات مرتبط با ساخت احتمالی سلاحهای زیستی استفاده میکردند.
در گزارش جدید آنتروپیک، پنج مطالعه موردی درباره استفاده نگرانکننده از مدلهای این شرکت برای تحقیقات زیستی و توسعه احتمالی سلاحهای زیستی بررسی شده است. هدف از انتشار این مطالعات، تشریح نحوه شناسایی موارد مشکوک، عملکرد تدابیر ایمنی و اقداماتی است که پس از شناسایی سوءاستفادهها انجام شده است.
یکی از چالشهای اصلی در شناسایی چنین فعالیتهایی، دشواری تشخیص مرز میان تحقیقات علمی مشروع و فعالیتهای بالقوه خطرناک است. یک پژوهش علمی برای تولید واکسن یا بررسی یک عامل بیماریزا ممکن است در ظاهر شباهت زیادی به تحقیقاتی داشته باشد که با اهداف مخرب انجام میشود. آنتروپیک به همین دلیل اعلام کرده است که در مواردی با توجه به پیامدهای احتمالی، رویکردی محتاطانه در پیش گرفته است.
جیکوب کلاین، رئیس بخش اطلاعات تهدیدات در آنتروپیک، درباره پیچیدگی تشخیص این نوع سوءاستفادهها به نیویورکتایمز گفت: «شما با کسی مواجه نیستید که به شکل یک شخصیت کارتونی بگوید: من میخواهم یک سلاح زیستی بسازم تا همه را بکشم. شرایط بسیار پیچیده و ظریف است.»
تحقیقات روی ویروس چیکونگونیا
یکی از موارد مطرحشده در گزارش آنتروپیک به درخواست پژوهشی درباره ویروس چیکونگونیا مربوط میشود. بر اساس این گزارش، سامانه طبقهبندی ایمنی زیستی شرکت در ماه مه درخواستی را شناسایی کرد که در آن از کلود خواسته شده بود برای یک پروژه تحقیقاتی افزایش عملکرد یا Gain-of-Function روی این ویروس، پیشنهاد پژوهشی یا درخواست کمکهزینه علمی تهیه کند.
چیکونگونیا در حال حاضر فاقد درمان تأییدشده و دارای مجوز است و میتواند علائمی ناتوانکننده ایجاد کند که برای هفتهها یا حتی ماهها ادامه پیدا کنند. در این مورد، موضوع زمانی حساستر شد که پیشنهاد پژوهشی شامل افزایش قابلیت انتقال ویروس و تقویت توانایی آن برای فرار از پاسخ سیستم ایمنی بود.
تحقیقات افزایش عملکرد بهطور کلی به بررسی تغییرات ژنتیکی در موجودات زنده یا عوامل بیماریزا و تأثیر این تغییرات بر ویژگیهای آنها مربوط میشود. آنتروپیک اعلام کرده است ترکیب ویژگیهای مطرحشده در این پروژه از منظر ایمنی بسیار نگرانکننده بوده و ارتباط آن با یک مؤسسه تحقیقاتی نظامی نیز بر میزان نگرانیها افزوده است.
این شرکت همچنین از وجود نگرانیهایی درباره پروژهای دیگر خبر داده که موضوع آن تحقیقات افزایش عملکرد روی آنفلوانزای پرندگان بوده است.
در نمونهای جداگانه، یکی از پژوهشگران از کلود برای تهیه اطلس پپتیدهای سمی موجود در زهرها استفاده کرده و همچنین یک خط لوله مولد برای بهینهسازی ویژگیهای سموم ایجاد کرده بود.
دامنه گسترده سوءاستفادهها
گزارش آنتروپیک تنها به حوزه زیستی محدود نمیشود. مطالعات موردی این شرکت، طیف دیگری از کاربردهای نگرانکننده هوش مصنوعی را نیز بررسی کرده است؛ از جمله استفاده از مدلهای هوش مصنوعی برای نظارت و پایش، ایجاد آسیبپذیریها و اکسپلویتهای نرمافزاری، تولید تبلیغات و محتوای پروپاگاندا و همچنین توسعه سامانههای تسلیحاتی.
آنتروپیک تأکید کرده است حساب کاربرانی که از کلود یا دیگر مدلهای این شرکت در فعالیتهای سوءاستفادهگرانه استفاده کردهاند، مسدود شده است. این شرکت همچنین قصد دارد یافتههای حاصل از بررسی این موارد را برای تقویت سازوکارهای امنیتی مدلهای هوش مصنوعی و کاهش احتمال تکرار چنین سوءاستفادههایی به کار گیرد.
با توجه به حساسیت و پیچیدگی موضوع سوءاستفاده زیستی، آنتروپیک از انتشار نام افراد و مؤسساتی که تحقیقات انجامشده به آنها مرتبط بوده، خودداری کرده است.
انتهای پیام