نشست شورای امنیت سازمان ملل متحد درباره هوش مصنوعی، این فناوری را بیش از گذشته در چارچوب امنیت بین‌المللی قرار داد؛ نشستی که در آن مدیران شرکت‌های بزرگ فناوری و پژوهشگران برجسته درباره خطرات سامانه‌های پیشرفته، احتمال کاهش کنترل انسانی و ضرورت همکاری میان دولت‌ها هشدار دادند.
به گزارش پایگاه خبری حکمرانی هوشمند، شورای امنیت سازمان ملل متحد روز ۲۳ سپتامبر ۲۰۲۶ نشستی را با موضوع «هوش مصنوعی و امنیت بین‌المللی» برگزار کرد. در این نشست سم آلتمن، مدیرعامل اوپن‌ای‌آی، داریو آمودی، مدیرعامل آنتروپیک، کلمنت دولانگ، هم‌بنیان‌گذار هاگینگ فیس و یوشوا بنجیو، پژوهشگر برجسته هوش مصنوعی، حضور داشتند. سازمان ملل اعلام کرده است که موضوع اصلی نشست، فرصت‌ها و خطرات فناوری‌های پیشرفته هوش مصنوعی و پیامدهای آنها برای صلح و امنیت بین‌المللی بوده است.
این نشست در شرایطی برگزار شد که نگرانی‌ها درباره افزایش سریع توانایی مدل‌های پیشرفته و امکان حرکت آنها به سمت خودبهبوددهی افزایش یافته است. گزارش رویترز نیز نشان می‌دهد مدیران صنعت هوش مصنوعی در این جلسه از دولت‌ها خواستند برای مدیریت خطرات این فناوری همکاری کنند.
تا سال‌های گذشته، بخش قابل توجهی از بحث درباره ایمنی هوش مصنوعی بر موضوعاتی مانند خطاهای مدل‌ها، سوگیری الگوریتمی، حریم خصوصی و آثار اجتماعی فناوری متمرکز بود. اما در نشست اخیر شورای امنیت، دامنه بحث گسترده‌تر شد و موضوعاتی مانند امنیت زیستی، حملات سایبری، سامانه‌های خودمختار و احتمال کاهش کنترل انسان بر مدل‌های پیشرفته نیز مورد توجه قرار گرفت.
داریو آمودی در سخنان خود هشدار داد که در صورت مدیریت نامناسب، هوش مصنوعی می‌تواند به خطری برای کل بشریت تبدیل شود. او بر ضرورت همکاری بین‌المللی برای مدیریت این فناوری تأکید کرد و گفت هیچ شرکت یا دولتی به تنهایی قادر به مدیریت مجموعه فرصت‌ها و خطرات ناشی از هوش مصنوعی نیست.
یوشوا بنجیو نیز در این نشست درباره خطرات سامانه‌هایی هشدار داد که ممکن است از کنترل انسان خارج شوند. او این خطرات را فرامرزی دانست و بر ضرورت همکاری کشورها برای مواجهه با آنها تأکید کرد. سازمان ملل نیز در گزارش خود اعلام کرد که نگرانی درباره سامانه‌هایی که ممکن است از توانایی انسان فراتر روند، به یکی از محورهای اصلی این نشست تبدیل شده بود.
یکی از محورهای مهم نشست، مسئله نقش شرکت‌های خصوصی در تعیین مسیر آینده هوش مصنوعی بود.
سم آلتمن با اشاره به اهمیت نقش دولت‌ها در سیاست‌گذاری این حوزه، بر این دیدگاه تأکید کرد که تصمیم‌های اساسی درباره آینده هوش مصنوعی نباید صرفاً در اختیار آزمایشگاه‌های فناوری قرار داشته باشد.
این موضع در شرایطی مطرح می‌شود که بخش مهمی از توسعه مدل‌های پیشرفته در اختیار شمار محدودی از شرکت‌های بزرگ فناوری قرار گرفته است. این شرکت‌ها درباره معماری مدل‌ها، میزان دسترسی کاربران، محدودیت‌های ایمنی و زمان عرضه محصولات جدید تصمیم می‌گیرند؛ تصمیم‌هایی که می‌توانند پیامدهایی فراتر از مرزهای کشور محل فعالیت آنها داشته باشند.
آلتمن همچنین بر ضرورت باقی ماندن سامانه‌های هوش مصنوعی تحت کنترل انسان و استفاده از این فناوری برای ایجاد منافع ملموس و افزایش توانمندی انسان‌ها تأکید کرده است.
امنیت سایبری یکی دیگر از موضوعات مورد توجه در این نشست بود. کلمنت دولانگ، هم‌بنیان‌گذار هاگینگ فیس، با اشاره به یک رخداد امنیتی گفت در جریان یکی از حوادث، هوش مصنوعی برای حمله و سپس دفاع در برابر حمله مورد استفاده قرار گرفته است.
این موضوع اهمیت بیشتری پیدا می‌کند زیرا نسل جدید عامل‌های هوش مصنوعی دیگر صرفاً به تولید متن یا پاسخ‌گویی محدود نیستند و می‌توانند در محیط‌های دیجیتال مجموعه‌ای از اقدامات را اجرا کنند.
در چنین شرایطی، موضوعاتی مانند میزان دسترسی عامل به ابزارها، محدودیت مجوزها، نظارت انسانی، ثبت فعالیت‌ها و امکان توقف سریع سیستم به بخش مهمی از امنیت هوش مصنوعی تبدیل می‌شوند.
با وجود نگرانی مشترک درباره برخی خطرات هوش مصنوعی، هنوز درباره نحوه تنظیم این فناوری میان قدرت‌های بزرگ اتفاق نظر وجود ندارد.
در نشست شورای امنیت، اختلاف دیدگاه درباره ایجاد یک سازوکار جهانی برای تنظیم هوش مصنوعی نیز خود را نشان داد. دولت آمریکا نسبت به ایجاد یک چارچوب بین‌المللی فراگیر محتاط است و بر تقویت ظرفیت‌های داخلی و همکاری میان کشورها تأکید دارد. در مقابل، چین از توسعه چارچوب‌های تنظیم‌گری، سازوکارهای واکنش اضطراری و همکاری فرامرزی حمایت کرده است.
این اختلاف نشان می‌دهد که اگرچه بحث درباره ضرورت مدیریت خطرات هوش مصنوعی در سطح بین‌المللی در حال گسترش است، هنوز درباره مرجع تدوین قواعد، میزان دخالت نهادهای بین‌المللی و حدود مسئولیت دولت‌ها و شرکت‌های فناوری توافق جامعی شکل نگرفته است.
ورود مدیران شرکت‌های بزرگ هوش مصنوعی به شورای امنیت، نشانه افزایش اهمیت این فناوری در مباحث مربوط به صلح و امنیت بین‌المللی است. شورای امنیت پیش از این نیز درباره پیامدهای هوش مصنوعی بحث کرده بود، اما نشست ۲۰۲۶ با حضور مستقیم مدیران شرکت‌های فعال در توسعه مدل‌های پیشرفته، ابعاد تازه‌ای پیدا کرد.
اهمیت این تحول در آن است که مرز میان ایمنی فنی و امنیت ملی و بین‌المللی در حال کم‌رنگ شدن است. امنیت سایبری، زیست‌فناوری، زیرساخت‌های حیاتی و کنترل انسانی بر سامانه‌های پیشرفته می‌توانند در آینده به بخش‌های مرتبط یک مسئله واحد تبدیل شوند.
با این حال، نشست اخیر هنوز پاسخ مشخصی برای معماری آینده تنظیم‌گری هوش مصنوعی ارائه نکرده است. آنچه روشن شده، افزایش توجه نهادهای بین‌المللی به این فناوری و شکل‌گیری بحثی جدی درباره این پرسش است که چه کسی باید درباره حدود توانایی‌های هوش مصنوعی تصمیم بگیرد و چگونه می‌توان پیش از آنکه سرعت تحول فناوری از ظرفیت واکنش دولت‌ها جلو بزند، قواعد مشترکی برای مدیریت خطرات آن ایجاد کرد.
انتهای پیام
