بحث درباره ایمنی هوش مصنوعی در سپتامبر ۲۰۲۶ وارد مرحله تازهای شده و از محافل تخصصی پژوهشگران ایمنی به سطح مدیران شرکتهای بزرگ فناوری، قانونگذاران و سیاستگذاران آمریکا و همچنین رقابت راهبردی واشنگتن و پکن رسیده است؛ موضوعی که اکنون تنها به نحوه کنترل مدلهای قدرتمند محدود نیست و سرعت توسعه این فناوری را نیز در مرکز مناقشه قرار داده است.
به گزارش پایگاه خبری حکمرانی هوشمند، در هفتههای اخیر دو نگاه متفاوت درباره آینده توسعه هوش مصنوعی برجسته شده است. یک دیدگاه بر این باور است که رشد قابلیتهای مدلها ممکن است از سرعت توسعه ابزارهای ارزیابی و کنترل پیشی بگیرد و بنابراین باید آهنگ پیشرفت در مرز فناوری با ملاحظات ایمنی هماهنگ شود. دیدگاه مقابل، ایمنی را مسئلهای مهندسی میداند که میتوان آن را همزمان با توسعه فناوری مدیریت کرد.
در میان مدیران شرکتهای هوش مصنوعی، داریو آمودی، مدیرعامل آنتروپیک، بر ضرورت توجه به سرعت رشد قابلیتهای مدلها تأکید کرده است. وی بر این باور است که صرف افزایش سرمایهگذاری برای پیشگیری از خطرات کافی نیست و سازوکارهای ایمنی باید فرصت داشته باشند متناسب با رشد قابلیتهای هوش مصنوعی توسعه پیدا کنند.
وی همچنین بر استفاده از ارزیابان مستقل شخص ثالث تأکید کرده است؛ به این معنا که این ارزیابان بتوانند به صورت مستمر و حتی در جریان آموزش مدلها، رعایت تدابیر ایمنی، رخدادهای خطرناک و وضعیت همترازی سامانهها را بررسی کنند.
سم آلتمن، مدیرعامل اوپنایآی نیز از این رویکرد استقبال کرده و اعلام کرده است که این شرکت نیز اقدام مشابهی را دنبال خواهد کرد. با این حال، این دیدگاه به معنای درخواست توقف کامل توسعه هوش مصنوعی نیست، بلکه بر تنظیم سرعت پیشرفت در مرز قابلیتهای این فناوری متمرکز است.
یکی از نگرانیهای مهم مطرحشده در این زمینه، احتمال ورود هوش مصنوعی به مرحله «خودبهبوددهی بازگشتی» است؛ وضعیتی که در آن مدلهای هوشمند بتوانند در ساخت نسلهای بعدی سامانههای هوش مصنوعی نقش داشته باشند و در نتیجه، سرعت افزایش قابلیتها نیز بیشتر شود.
جاکوب کاکسون، پژوهشگر سابق آنتروپیک و اوپنایآی، پس از استعفا از آنتروپیک مدعی شده است که این شرکتها در مسیر توسعه «فراهوش خودبهبوددهنده» با مخاطرات غیرقابلقبولی مواجه هستند. جاسمین وانگ، پژوهشگر همترازی اوپنایآی نیز شتاب گرفتن حرکت به سمت چنین قابلیتی را بسیار خطرناک توصیف کرده است.
یاکوب پاچوکی، دانشمند ارشد اوپنایآی نیز گفته است انتظار دارد روند پیشرفت هوش مصنوعی بتواند وارد مرحله خودبهبوددهی بازگشتی شود و درباره آمادگی برای پیامدهای افزایش سریع هوش ماشینی ابراز نگرانی کرده است.
الکس ترنر، پژوهشگر سابق گوگل دیپمایند، نیز بر جنبه دیگری از این مسئله تمرکز کرده و گفته است مدلهای فعلی برخلاف سازههای مهندسی متعارف، به صورت جزءبهجزء طراحی و قابل فهم نیستند. از نگاه او، همین مسئله تضمین اینکه یک مدل جدید دقیقاً مطابق اولویتهای طراح رفتار کند را دشوار میکند.
در مقابل این دیدگاه، جنسن هوانگ، مدیرعامل انویدیا، رویکرد متفاوتی دارد. وی هوش مصنوعی را یک «ذهن بیگانه» نمیداند و آن را در نهایت مجموعهای از سختافزار و نرمافزار ساخته انسان تلقی میکند.
هوانگ گفت: ایمنی فناوری یک مسئله مهندسی است و قوانین موجود در کنار سازوکار بازار میتوانند شرکتها را از عرضه محصولات ناایمن بازدارند.
وی افزود: دوگانه سرعت یا ایمنی، دوگانهای کاذب است و شرکتها میتوانند با حداکثر سرعت پیش بروند و هر زمان که نسبت به ایمنی محصول اطمینان نداشتند، در همان نقطه متوقف شوند.
این اختلاف دیدگاه، بحث مهمتری را مطرح کرده است؛ اینکه مسئول تعیین سرعت توسعه هوش مصنوعی چه کسی باشد و آیا باید ابتدا قابلیتهای جدید ایجاد شوند و سپس خطرات آنها مدیریت شود یا اینکه سازوکارهای ایمنی از ابتدا در تعیین سرعت توسعه نقش داشته باشند.
ورود دولتها و سیاستمداران به این بحث، ابعاد تازهای به موضوع داده است. دونالد ترامپ در اظهارنظری درباره احتمال انقراض انسان بر اثر هوش مصنوعی، اعلام کرده است که نگرانی اصلی او عقب نماندن آمریکا در رقابت با چین است. اسناد کاخ سفید در سال ۲۰۲۶ نیز بر تسریع نوآوری، توسعه زیرساخت و حفظ رهبری آمریکا در حوزه هوش مصنوعی تأکید دارند.
در چین نیز گوئو جیاکون، سخنگوی وزارت خارجه این کشور، در واکنش به درخواست برخی مدیران فناوری آمریکایی برای کاهش سرعت توسعه هوش مصنوعی، بر توسعه باز و فراگیر این فناوری تأکید کرده است. وی هراسافکنی، تقابل و رقابت مخرب را مانعی در مسیر مدیریت جهانی هوش مصنوعی دانسته است.
به این ترتیب، مسئله ایمنی هوش مصنوعی دیگر صرفاً یک بحث فنی میان پژوهشگران نیست و به موضوعی در تقاطع فناوری، اقتصاد، سیاستگذاری و امنیت ملی تبدیل شده است. در شرایطی که آمریکا و چین برای حفظ و گسترش جایگاه خود در حوزه هوش مصنوعی رقابت میکنند، هر تصمیم درباره سرعت توسعه این فناوری میتواند پیامدهایی فراتر از یک شرکت یا یک آزمایشگاه داشته باشد.
در داخل آمریکا نیز دیدگاه واحدی درباره نحوه مواجهه با این فناوری شکل نگرفته است. باراک اوباما خواستار شکلگیری چارچوبی گسترده برای گفتوگوی عمومی درباره مدیریت هوش مصنوعی شده است؛ چارچوبی که علاوه بر موضوع سرعت توسعه و ایمنی، پیامدهای فناوری بر اشتغال و سلامت کودکان را نیز دربرگیرد.
وی در عین هشدار نسبت به برخی مخاطرات، به ظرفیتهای هوش مصنوعی برای تسریع کشف دارو و توسعه فناوریهای انرژی پاک نیز اشاره کرده است.
از سوی دیگر، برنی سندرز و گرگ کسار مسیر مداخله مستقیمتر قانونگذار را پیشنهاد کردهاند. طرح این دو قانونگذار آمریکایی، ممنوعیت توسعه و استقرار «ابرهوش مصنوعی» و توقف موقت توسعه سامانههای پیشرفته تا زمان استقرار قواعد ایمنی فدرال را مطرح میکند.
این طرح همچنین ایجاد یک نهاد فدرال در سطح کابینه برای نظارت بر چرخه عمر هوش مصنوعی مرزی را پیشبینی کرده است.
مجموع این مواضع نشان میدهد که مناقشه اصلی در سال ۲۰۲۶ تنها درباره اینکه هوش مصنوعی تا چه اندازه قدرتمند خواهد شد نیست؛ بلکه این پرسش نیز مطرح است که جامعه، دولتها و شرکتهای فناوری چگونه باید میان سرعت نوآوری و زمان لازم برای ایجاد سازوکارهای ایمنی تعادل برقرار کنند. اختلاف نظر موجود میان مدیران فناوری، پژوهشگران و سیاستگذاران نشان میدهد پاسخ به این پرسش همچنان در حال شکلگیری است.
انتهای پیام
