مجله نیچر در گزارشی به بررسی نگرانی‌های مطرح‌شده درباره خطرات احتمالی هوش مصنوعی پرداخته و این پرسش را بررسی کرده است که آیا توسعه سامانه‌های پیشرفته هوش مصنوعی می‌تواند در آینده به تهدیدی برای بقای انسان تبدیل شود یا خیر؛ موضوعی که در هفته‌های اخیر با هشدار برخی پژوهشگران و مدیران شرکت‌های بزرگ فناوری بار دیگر مورد توجه قرار گرفته است.
به گزارش پایگاه خبری حکمرانی هوشمند، نگرانی درباره احتمال خارج شدن هوش مصنوعی از کنترل انسان و پیامدهای احتمالی آن، طی سال‌های اخیر افزایش یافته است. در تازه‌ترین موج این نگرانی‌ها، برخی پژوهشگران و مدیران شرکت‌های هوش مصنوعی درباره سرعت توسعه این فناوری هشدار داده و خواستار ایجاد سازوکارهای ایمنی و نظارتی بیشتر شده‌اند.
این بحث پس از آن شدت گرفت که یکی از پژوهشگران سابق شرکت آنتروپیک اعلام کرد به دلیل نگرانی از اینکه سامانه‌های در حال توسعه این شرکت ممکن است از کنترل خارج شوند، از این شرکت استعفا داده است. او در شبکه اجتماعی ایکس نوشت: «افرادی که در حال ساخت هوش مصنوعی هستند، واقعا باور دارند که این فناوری ممکن است تا پایان این دهه همه ما را بکشد.»
ایوان هابینگر، مسئول بخش «هم‌راستاسازی» در آنتروپیک که هدف آن هماهنگ کردن رفتار مدل‌های هوش مصنوعی با ارزش‌های انسانی است، این پیام را بازنشر کرد و احتمال انقراض انسان در دهه آینده را بیش از ۱۰ درصد برآورد کرد. این اظهارنظر در مدت ۲۴ ساعت بیش از ۱۰۰ میلیون بازدید به دست آورد.
پس از این اتفاق، داریو آمودی، مدیرعامل آنتروپیک، در مقاله‌ای خواستار کاهش سرعت توسعه هوش مصنوعی شد. شماری از مدیران شرکت‌های رقیب، از جمله سم آلتمن از اوپن‌ای‌آی و ایلان ماسک از xAI، نیز از ضرورت توجه بیشتر به ایمنی این فناوری سخن گفته‌اند.
هوش مصنوعی چگونه می‌تواند به تهدیدی برای انسان تبدیل شود؟
به نوشته نیچر، پژوهشگران هنوز توضیح قطعی و دقیقی درباره اینکه هوش مصنوعی چگونه می‌تواند به نابودی انسان منجر شود، ارائه نکرده‌اند. با این حال، سناریوهای مختلفی برای بررسی این احتمال مطرح شده است.
یکی از نمونه‌های شناخته‌شده، سناریوی «گیره کاغذ» است. در این فرض، یک ابرهوش مصنوعی با هدف تولید هرچه بیشتر گیره کاغذ طراحی می‌شود و ممکن است در مسیر دستیابی به هدف خود، منابع زمین را به شکل فزاینده‌ای مصرف کرده و در نهایت محیط را برای زندگی انسان نامناسب کند.
در سناریوهای دیگری نیز فرض شده است که یک هوش مصنوعی بسیار قدرتمند می‌تواند از انسان پیشی بگیرد و در صورتی که اهداف آن با اهداف انسانی همسو نباشد، اقداماتی انجام دهد که پیامدهای جبران‌ناپذیری داشته باشد.
با این حال، مایکل ورمیر، پژوهشگر سیاست علم و فناوری در مؤسسه RAND، نسبت به برخی از این پیش‌بینی‌ها انتقاد دارد. او می‌گوید بسیاری از پژوهشگرانی که درباره تهدیدهای وجودی هوش مصنوعی هشدار می‌دهند، در نقطه‌ای از استدلال خود «صرفا فرض می‌کنند که بقیه ماجرا جزئیات است».
به گفته ورمیر، این پیش‌بینی‌ها گاهی بر ادعاهایی غیرقابل آزمایش متکی هستند و در چنین شرایطی، بحث می‌تواند «بیشتر شبیه ایمان شود تا چیزی علمی یا تجربی».
او و همکارانش در سال ۲۰۲۵ به جای تمرکز بر سناریوهای کاملاً فرضی، پیامدهای عملی سه فناوری موجود یعنی سلاح‌های هسته‌ای، زیست‌فناوری و تغییر عمدی جو زمین را بررسی کردند. نتایج این بررسی نشان داد نابودی کامل بشر با استفاده از سلاح‌های هسته‌ای امکان‌پذیر نیست، اما دو سناریوی دیگر را نمی‌توان به طور کامل منتفی دانست.
تهدیدهای فوری‌تر از انقراض انسان
مجله نیچر در ادامه به خطرات دیگری اشاره می‌کند که برخی پژوهشگران آنها را بسیار محتمل‌تر و فوری‌تر از سناریوی انقراض بشر می‌دانند.
هایدی خلاف، دانشمند ارشد هوش مصنوعی در مؤسسه AI Now در نیویورک، می‌گوید مدل‌های هوش مصنوعی درک انسانی ندارند و ممکن است برای دستیابی به اهداف خود، از میان‌برهایی استفاده کنند که قابل پیش‌بینی نیستند.
برخی رفتارهای خطرناک نیز در جریان آزمایش مدل‌های هوش مصنوعی مشاهده شده است؛ از جمله تلاش برای باج‌گیری از افراد. در مواردی نیز مدل‌های هوش مصنوعی توانسته‌اند به شرکت‌های واقعی حمله سایبری کنند؛ هرچند در این موارد، برخی سازوکارهای ایمنی برای آزمایش حذف شده بود و مدل‌ها نیز با وظایفی مواجه بودند که آنها را به سمت راه‌حل‌های غیرمجاز سوق می‌داد.
با این حال، گروهی از پژوهشگران معتقدند مسئله مهم‌تر، نبود نظارت و محدودیت کافی بر عملکرد مدل‌های هوش مصنوعی است. آنها درباره پیامدهایی مانند انتشار اطلاعات نادرست، آسیب‌های روانی، کمک به ساخت سلاح‌های زیستی و حتی نقش احتمالی این فناوری در ایجاد جنگ هشدار داده‌اند.
چرا درخواست برای کاهش سرعت توسعه هوش مصنوعی افزایش یافته است؟
داریو آمودی و برخی دیگر از مدیران صنعت هوش مصنوعی از سال ۲۰۲۳ درباره خطرات احتمالی توسعه این فناوری هشدار داده‌اند، اما در ماه‌های اخیر این موضوع توجه عمومی بیشتری پیدا کرده است.
در دو ماه گذشته نیز مجموعه‌ای از حوادث مرتبط با امنیت سایبری، نگرانی‌ها درباره قابلیت‌های فزاینده مدل‌های هوش مصنوعی را افزایش داده است. در همین شرایط، نزدیک به ۱۴۰۰ نفر از کارکنان صنعت هوش مصنوعی با امضای نامه‌ای سرگشاده، خواستار کاهش سرعت توسعه این فناوری شده‌اند.
آمودی نیز در مقاله خود اعلام کرده است که نگرانی‌هایش در پی حوادث اخیر امنیت سایبری و همچنین احتمال توانایی هوش مصنوعی برای ساخت نسخه بعدی و جانشین خودش افزایش یافته است.
این فرایند که «خودبهبوددهی بازگشتی» نام دارد، به توانایی احتمالی یک سامانه برای بهبود نسخه‌های بعدی خود اشاره دارد. آمودی معتقد است چنین فرایندی می‌تواند توانایی انسان‌ها برای درک و کنترل مدل‌های پیشرفته را کاهش دهد.
پیشنهاد ایجاد نظارت مستقل بر شرکت‌های هوش مصنوعی
آمودی پیشنهاد کرده است شرکت‌هایی که مدل‌های پیشرفته هوش مصنوعی را توسعه می‌دهند، امکان دسترسی مشابه کارکنان خود را برای گروهی مستقل از ارزیابان شخص ثالث فراهم کنند.
این ارزیابان می‌توانند بررسی کنند که آیا شرکت‌ها استانداردهای لازم ایمنی را رعایت می‌کنند یا خیر و در عین حال، شفافیت بیشتری درباره فعالیت‌های داخلی شرکت‌های هوش مصنوعی ایجاد کنند.
آمودی همچنین پیشنهاد کرده است در برخی موارد، قوانین ضدانحصار آمریکا با انعطاف بیشتری اجرا شود تا شرکت‌های رقیب بتوانند برای تعیین استانداردهای مشترک ایمنی با یکدیگر همکاری کنند.
در مقابل، دونالد ترامپ، رئیس‌جمهوری آمریکا، با درخواست برای کاهش سرعت توسعه هوش مصنوعی مخالفت کرده و ضمن انتقاد از آمودی، این پیشنهاد را «توطئه بیمارگونه» علیه هوش مصنوعی خوانده است. او همچنین گفته است تنها کسی که از چنین وضعیتی خوشحال می‌شود، چین است.
چین در حال حاضر مقررات گسترده‌ای در حوزه هوش مصنوعی دارد، اما تلاش سازمان‌یافته‌ای برای کاهش سرعت توسعه این فناوری در این کشور وجود ندارد.
در شرایطی که هنوز مقررات جهانی واحدی برای هوش مصنوعی شکل نگرفته است، اختلاف دیدگاه میان دولت‌ها و شرکت‌های فناوری درباره نحوه کنترل این فناوری ادامه دارد. به نوشته نیچر، یکی از چالش‌های اصلی پیش رو این است که چگونه می‌توان میان بهره‌گیری از ظرفیت‌های هوش مصنوعی و جلوگیری از پیامدهای احتمالی آن تعادل ایجاد کرد.
انتهای پیام
