رئیس دورهای هواوی با اشاره به تفاوت سطح توانمندی مدلهای هوش مصنوعی در چین و آمریکا گفت ممکن است توسعهدهندگان چینی هنوز با برخی از خطرات ایمنی که شرکتهای پیشرو آمریکایی با آنها مواجه شدهاند، روبهرو نشده باشند. او در عین حال بر ادامه توسعه مدلهای قدرتمندتر و ایجاد تعادل میان نوآوری و مدیریت ریسک تأکید کرد.
به گزارش، «اریک شو»، رئیس دورهای هواوی، در حاشیه کنفرانس سالانه Connect این شرکت در شانگهای درباره وضعیت فعلی توسعه هوش مصنوعی در چین و آمریکا اظهار نظر کرد.
شو با اشاره به توان پردازشی گسترده شرکتهای آمریکایی گفت: «اگر به ارائهدهندگان اصلی مدلهای هوش مصنوعی در آمریکا نگاه کنیم، آنها به دلیل برخورداری از توان پردازشی عظیم، شاید تنها خودشان بدانند مدلهایشان از نظر سطح قابلیت در چه نقطهای قرار دارند.»
رئیس دورهای هواوی در ادامه افزود: «ممکن است نوع خطرات هوش مصنوعی که آنها میتوانند احساس یا درک کنند، چیزی باشد که مردم یا ارائهدهندگان مدلهای هوش مصنوعی در چین قادر به تجربه آن نباشند.»
این اظهارات در شرایطی مطرح شده که بحث درباره ایمنی مدلهای پیشرفته هوش مصنوعی در آمریکا شدت گرفته است. پژوهشگران و شرکتهای فعال در این حوزه هشدار دادهاند که با افزایش سطح خودمختاری سیستمهای هوش مصنوعی، احتمال عبور آنها از سازوکارهای حفاظتی یا دشوارتر شدن کنترل عملکردشان افزایش مییابد.
در همین زمینه، OpenAI اعلام کرده است که قصد دارد گزارشهای منظم درباره رفتارهای غیرمنتظره یا غیرمجاز مدلهای خود منتشر کند. در سوی دیگر، مدیرعامل شرکت آنتروپیک نیز بر ضرورت کاهش سرعت توسعه برخی مدلهای پیشرفته تأکید کرده تا سازوکارهای ایمنی بتوانند همگام با رشد قابلیتهای این فناوری توسعه پیدا کنند.
با این حال، رویکرد مطرحشده در چین تفاوتهایی با این دیدگاه دارد. برخی پژوهشگران و رسانههای دولتی چین نسبت به ایده کاهش سرعت توسعه مدلهای پیشرفته انتقاد کردهاند. استدلال مطرحشده از سوی آنها این است که کند شدن روند توسعه میتواند به شرکتهای آمریکایی در حفظ برتری فناورانه کمک کند.
برخی مفسران چینی نیز پیشنهادهای مربوط به محدود کردن سرعت توسعه هوش مصنوعی پیشرفته را نه صرفاً واکنشی به نگرانیهای ایمنی، بلکه اقدامی میدانند که میتواند رقبای چینی را که همچنان با برخی آزمایشگاههای پیشرو آمریکایی فاصله دارند، محدود کند.
در همین حال، چین تلاش میکند توسعه سریع هوش مصنوعی را با ایجاد سازوکارهای نظارتی و ایمنی همراه کند. پکن هوش مصنوعی پیشرفته را فناوری قدرتمندی میداند که میتوان همزمان با توسعه و استفاده گستردهتر، خطرات آن را نیز مدیریت کرد.
چین در همین راستا در حال تدوین استانداردهای اجباری و اجرای ارزیابیهای امنیتی برای مقابله با برخی ریسکهای هوش مصنوعی است. از جمله نگرانیهای مورد توجه، امکان دور زدن سازوکارهای کنترلی توسط ایجنتهای خودمختار و همچنین احتمال حمله این سیستمها به سامانههای خارجی است.
دولت چین همچنین روند تدوین یک استاندارد ملی اجباری برای ایمنی ایجنتهای هوش مصنوعی را دنبال میکند؛ اقدامی که نشان میدهد توسعه قابلیتهای پیشرفته این فناوری در این کشور همزمان با تلاش برای ایجاد چارچوبهای مشخصتر جهت مدیریت ریسک دنبال میشود.
انتهای پیام