نخستین گزارش هیئت علمی مستقل سازمان ملل متحد درباره هوش مصنوعی نشان میدهد که این فناوری، در کنار فرصتهای گسترده برای توسعه اقتصادی، ارتقای کیفیت زندگی و بهبود خدمات عمومی، میتواند تهدیدهای قابل توجهی برای امنیت، حقوق بشر، سلامت روان و انسجام اجتماعی به همراه داشته باشد.
به گزارش پایگاه خبری حکمرانی هوشمند، این سند، نخستین ارزیابی علمی مستقل و جهانی از وضعیت هوش مصنوعی به شمار میرود و نسخه جامعتر آن نیز سال آینده منتشر خواهد شد.
اعضای این هیئت علمی از مناطق مختلف جهان انتخاب شدهاند و به مدت سه سال، مستقل از دولتها، شرکتها و سایر نهادها فعالیت میکنند.
ضرورت سیاستگذاری مبتنی بر شواهد در حکمرانی
در این گزارش تأکید شده است که سیاستگذاران برای تنظیم مقررات و مدیریت هوش مصنوعی به شواهد علمی نیاز دارند، اما سرعت پیشرفت این فناوری از توان دانش موجود و قابلیت دولتها برای انطباق با تحولات آن پیشی گرفته است. همچنین روشهای مؤثر برای کنترل سامانههای بسیار خودمختار هوش مصنوعی هنوز محدود است.
یوشوا بنجیو، رئیس مشترک این هیئت علمی، با اشاره به افزایش شواهد درباره رفتارهای فریبکارانه برخی سامانههای هوش مصنوعی هشدار داد که علم امروز نمیتواند تضمین کند این فناوری، با افزایش توانمندیهای خود، «بهتنهایی یا در نتیجه سوءاستفاده کاربران مخرب» موجب بروز خسارتهای فاجعهبار نخواهد شد.
در این گزارش آمده است: «ظرفیتهای بالقوه هوش مصنوعی بسیار گسترده است، اما گسترش سریع و کنترلنشده این فناوری در مقیاس وسیع، خطرات قابل توجهی نیز به همراه دارد؛ از جمله آسیب به سلامت روان کاربران، استفاده از هوش مصنوعی به عنوان ابزاری مخرب، تأثیر بر نظامهای اجتماعی، اقتصادی و زیستمحیطی و همچنین چالشهای مربوط به کنترل این فناوری.»
شکاف جهانی در توسعه هوش مصنوعی
بر اساس این گزارش، استفاده از هوش مصنوعی در جهان با سرعت زیادی در حال افزایش است، اما این روند در کشورهای مختلف یکسان نیست. در حال حاضر، بیش از یک میلیارد نفر در سراسر جهان هر هفته از سامانههای هوش مصنوعی مکالمهمحور استفاده میکنند، اما میزان بهرهگیری از این فناوری در کشورهای در حال توسعه همچنان پایینتر از کشورهای پیشرفته است.
گزارش همچنین نشان میدهد توسعه زیرساختهای هوش مصنوعی به شدت در اختیار چند کشور محدود قرار دارد؛ بهگونهای که ایالات متحده حدود ۷۵ درصد توان پردازشی ۵۰۰ ابررایانه برتر هوش مصنوعی جهان را در اختیار دارد و سهم چین نیز حدود ۱۵ درصد برآورد شده است.
یکی دیگر از محورهای گزارش، محدود بودن پوشش زبانی مدلهای هوش مصنوعی است. در حالی که بیش از هفت هزار زبان در جهان وجود دارد، مدلهای فعلی تنها برای بخش کوچکی از این زبانها آموزش دیدهاند و ترجمه ماشینی بسیاری از زبانها همچنان با خطاهای جدی همراه است؛ خطاهایی که میتواند حتی بر تشخیص بیماریها و تصمیمهای درمانی تأثیر بگذارد.
هیئت علمی سازمان ملل هشدار داده است که توسعه بدون ضابطه هوش مصنوعی میتواند پیامدهای منفی گستردهای برای حقوق بشر، نظامهای اجتماعی و محیط زیست ایجاد کند.
در این گزارش به افزایش تولید محتوای سوءاستفاده جنسی از کودکان با استفاده از هوش مصنوعی و همچنین گسترش خشونتهای جنسی مبتنی بر فناوری دیپفیک اشاره شده است. همچنین تأکید شده که هوش مصنوعی تولید و هدفگیری گسترده محتوای اقناعکننده را آسانتر کرده و این روند میتواند به «فرسایش تدریجی سلامت اطلاعات»، کاهش اعتماد عمومی، تضعیف انسجام اجتماعی و آسیب به فرآیندهای دموکراتیک منجر شود.
این گزارش در پایان تأکید میکند که بیشتر کشورها، حتی اقتصادهای پیشرفته، هنوز از دانش فنی کافی برای ارزیابی پیشرفتهترین مدلهای هوش مصنوعی یا مشارکت مؤثر در فرآیند حکمرانی آن برخوردار نیستند.
به اعتقاد تهیهکنندگان گزارش، با توجه به سرعت تحول فناوری، تقویت سازوکارهای حکمرانی ، توسعه سیاستگذاری مبتنی بر شواهد علمی و گسترش همکاریهای بینالمللی، از مهمترین پیشنیازهای بهرهگیری ایمن و مسئولانه از هوش مصنوعی در سالهای آینده خواهد بود.
انتهای پیام
