چین با اجرای گسترده مقررات حوزه هوش مصنوعی، وارد مرحله تازهای از حکمرانی هوش مصنوعی شده است؛ مرحلهای که در آن، تمرکز صرف بر قانونگذاری جای خود را به نظارت عملیاتی بر کل زیستبوم هوش مصنوعی داده است. تازهترین گزارش اداره فضای سایبری چین (CAC) نشان میدهد پکن سازوکاری فراگیر برای پایش، شناسایی و برخورد با تخلفات مرتبط با هوش مصنوعی ایجاد کرده؛ اقدامی که از آن به عنوان یکی از بزرگترین برنامههای نظارتی این حوزه در جهان یاد میشود.
به گزارش پایگاه خبری حکمرانی هوشمند، نخستین مرحله کارزار ملی «پاکسازی و ساماندهی نابسامانیهای کاربردهای هوش مصنوعی» که از آوریل ۲۰۲۶ آغاز شده، تنها به بررسی مدلهای زبانی بزرگ محدود نبوده و تمام زنجیره توسعه، تولید، انتشار و توزیع محصولات مبتنی بر هوش مصنوعی را دربر گرفته است.
آمارهای منتشرشده از سوی اداره فضای سایبری چین، ابعاد این طرح را بهخوبی نشان میدهد. در این مرحله، بیش از ۱۴ هزار محصول هوش مصنوعی شامل وبسایتها، اپلیکیشنها و عاملهای هوشمند مورد برخورد قرار گرفتهاند. همچنین بیش از شش میلیون محتوای غیرقانونی حذف، بیش از ۲۶ هزار حساب کاربری مسدود، یکهزار و ۳۰۰ محصول مبتنی بر هوش مصنوعی از فروشگاههای آنلاین حذف و ۹ مجموعهداده متنباز نیز به دلیل مغایرت با قوانین از دسترس خارج شدهاند.
بررسی این آمارها نشان میدهد سیاستگذاران چینی دیگر تنها مدلهای هوش مصنوعی را هدف قرار نمیدهند، بلکه کل اکوسیستم این فناوری از داده و مدل گرفته تا محتوا، محصولات، حسابهای کاربری و بازارهای توزیع را بهصورت یکپارچه تحت نظارت قرار دادهاند.
این گزارش همچنین پنج محور اصلی نظارت در این کارزار را تشریح میکند. نخست، برخورد با شرکتهایی که الزامات ثبت و دریافت مجوز برای مدلهای زبانی بزرگ را رعایت نکردهاند. دوم، ارتقای توانایی سکوهای دیجیتال در پالایش و کنترل خروجیهای هوش مصنوعی. سوم، مقابله با پدیده «مسمومسازی داده» که از مهمترین تهدیدهای امنیتی مدلهای هوش مصنوعی به شمار میرود. چهارم، اجرای کامل مقررات برچسبگذاری محتوای تولیدشده توسط هوش مصنوعی و پنجم، راهاندازی سامانه ملی دریافت گزارشهای مردمی درباره تخلفات این حوزه.
به باور کارشناسان، مجموعه این اقدامات نشان میدهد چین امنیت هوش مصنوعی را صرفاً به خروجی مدلها محدود نمیداند، بلکه چرخه کامل توسعه، آموزش، استقرار و بهرهبرداری از سامانههای هوش مصنوعی را بهعنوان یک زنجیره امنیتی واحد مدیریت میکند.
یکی دیگر از ویژگیهای این الگو، اجرای چندسطحی سیاستهای نظارتی است. در حالی که دولت مرکزی چارچوبهای کلان و شاخصهای نظارت را تدوین میکند، اجرای عملیاتی میان استانها و نهادهای محلی توزیع شده است.
برای نمونه، اداره فضای سایبری پکن سازوکار چهارمرحلهای شامل خودارزیابی پلتفرمها، بازرسی مستمر، غربالگری فنی و راستیآزمایی گزارشهای مردمی را طراحی کرده است. در شانگهای نیز نظام گزارشدهی و انتشار عمومی اقدامات اصلاحی توسعه یافته و استان ژجیانگ تمرکز ویژهای بر آزمونهای بازگشتی، ارتقای دقت مدلهای هوش مصنوعی و مقابله با مسمومسازی دادهها دارد. جیانگسو نیز سامانه اختصاصی دریافت گزارشهای مردمی را راهاندازی کرده و گوانگدونگ با ترکیب بازرسی فنی، بازبینی انسانی، نظارت میدانی و اقدامات انضباطی، الگوی هماهنگی میان دستگاههای نظارتی را به اجرا گذاشته است.
در همین راستا، هوآوی فرآیند ثبت و برچسبگذاری خدمات هوش مصنوعی مولد را در فروشگاه نرمافزاری خود تقویت کرده و علیبابا نیز سامانههای اثرانگشت دیجیتال و رهگیری کلیدواژهها را برای شناسایی محتوای غیرقانونی توسعه داده است.
همچنین شرکت Zhipu AI از مدلهای ممیزی چندوجهی برای تشخیص سناریوهای پیچیده و تغییر تدریجی نیت کاربران در گفتوگوهای چندمرحلهای استفاده میکند. شرکت MiniMax نیز توانایی شناسایی تلاش برای تولید بدافزار، ویروس و نرمافزارهای فیشینگ را افزایش داده و استارتاپ DeepSeek الگوریتمهای تشخیص ناهنجاری را مستقیماً در فرآیند جمعآوری و پیشپردازش دادهها به کار گرفته است تا از ورود دادههای مخرب به چرخه آموزش مدلها جلوگیری شود.
بر اساس این گزارش، بخش مهمی از الزامات امنیتی اکنون به مرحله طراحی سامانههای هوش مصنوعی منتقل شده است؛ به این معنا که قابلیتهای ایمنی باید از همان ابتدای توسعه محصول در معماری فنی آن پیشبینی شود و نه پس از عرضه.
اداره فضای سایبری چین همچنین اعلام کرده است مرحله دوم این کارزار با تمرکز بر تهدیدهای پیچیدهتر آغاز خواهد شد. مقابله با تولید و انتشار اطلاعات جعلی، جعل هویت افراد، آسیب به حقوق کودکان، انتشار محتوای خشونتآمیز و غیراخلاقی و استفاده از هوش مصنوعی برای سازماندهی عملیات هماهنگ در فضای مجازی، از مهمترین اولویتهای این مرحله خواهد بود.
در جمعبندی این گزارش آمده است که الگوی چین بر سه اصل «نظارت مستمر به جای مداخله مقطعی»، «مسئولیتپذیری مشترک دولت و شرکتهای فناوری» و «مدیریت امنیت در سراسر چرخه حیات سامانههای هوش مصنوعی» استوار است؛ رویکردی که از دید بسیاری از تحلیلگران، یکی از منسجمترین نمونههای گذار از قانونگذاری صرف به اجرای عملیاتی حکمرانی هوشمند و حکمرانی هوش مصنوعی در جهان به شمار میرود.
انتهای پیام