به گزارش پایگاه خبری حکمرانی هوشمند به نقل از دیجیتال‌ترندز، هم‌زمان با عرضه نسل‌های جدید مدل‌های هوش مصنوعی از سوی شرکت‌های فناوری، نگرانی‌ها درباره پیامدهای امنیتی این فناوری نیز افزایش یافته است. در همین زمینه، شرکت آنتروپیک در ارزیابی‌های خود نسبت به احتمال شکل‌گیری عامل‌های هوش مصنوعی خودتکثیرشونده هشدار داده است؛ عامل‌هایی که ممکن است بتوانند بدون اتکا به مراکز داده بزرگ، از ظرفیت پردازشی دستگاه‌های معمولی متصل به اینترنت استفاده کنند.
اهمیت این مسئله تنها به توانایی فنی مدل‌های هوش مصنوعی محدود نمی‌شود؛ بلکه نحوه نظارت بر عملکرد آن‌ها، حفاظت از زیرساخت‌های حیاتی و تدوین مقررات متناسب با سرعت پیشرفت فناوری را نیز در بر می‌گیرد. از این منظر، توسعه هوش مصنوعی در کنار فرصت‌های اقتصادی و فناورانه، ضرورت ایجاد سازوکارهای مؤثر برای مدیریت مخاطرات را برجسته می‌کند.
احتمال گسترش عامل‌های هوش مصنوعی در دستگاه‌های متصل
بر اساس ارزیابی‌های مطرح‌شده از سوی آنتروپیک، یکی از سناریوهای نگران‌کننده، توانایی مدل‌های کوچک هوش مصنوعی برای تکثیر و فعالیت در مجموعه‌ای از دستگاه‌های متصل به اینترنت است. در این سناریو، تجهیزات خانگی و اینترنت اشیا می‌توانند به بستری برای گسترش فعالیت عامل‌های هوش مصنوعی تبدیل شوند؛ به‌ویژه اگر از سازوکارهای امنیتی کافی برخوردار نباشند.
آنتروپیک هشدار داده است که این عامل‌ها، برخلاف بدافزارهای سنتی، ممکن است توانایی یادگیری نحوه کار با سخت‌افزارهای ناآشنا را نیز به دست آورند. چنین قابلیتی می‌تواند دامنه تهدیدهای سایبری را گسترش دهد؛ زیرا مهاجم دیگر لزوماً به برنامه‌ای محدود به یک نوع دستگاه وابسته نخواهد بود.
در این چارچوب، تجهیزاتی مانند تلویزیون‌های هوشمند، جاروبرقی‌های رباتیک، یخچال‌ها و سایر وسایل متصل به شبکه نیز می‌توانند در معرض سوءاستفاده قرار بگیرند. ضعف امنیتی هر یک از این دستگاه‌ها ممکن است زمینه‌ای برای نفوذ به بخش‌های دیگر یک شبکه فراهم کند و مدیریت تهدید را پیچیده‌تر سازد.
چرا مهار تهدیدهای هوش مصنوعی دشوارتر می‌شود؟
یکی دیگر از نگرانی‌های مطرح‌شده، احتمال گسترش عامل‌های هوش مصنوعی در ساختاری غیرمتمرکز است. اگر نسخه‌های متعدد یک عامل بتوانند روی دستگاه‌های مختلف فعالیت کنند، شناسایی تمام نمونه‌های فعال و متوقف کردن آن‌ها می‌تواند دشوارتر از مقابله با یک برنامه مخرب متمرکز باشد.
بر اساس سناریوی مطرح‌شده در ارزیابی آنتروپیک، تکثیر اولیه چنین سیستمی ممکن است آهسته باشد، اما در صورت فراهم بودن شرایط گسترش، تعداد نسخه‌های فعال آن به‌تدریج افزایش پیدا می‌کند. البته این موضوع یک سناریوی پیش‌بینی‌شده است و نباید آن را به معنای اثبات وجود شبکه‌ای گسترده از هوش مصنوعی خودتکثیرشونده در دنیای واقعی دانست.
این تفاوت میان قابلیت آزمایشگاهی، پیش‌بینی آینده و تهدید بالفعل اهمیت زیادی دارد. سیاست‌گذاران و نهادهای مسئول باید ضمن توجه به هشدارهای کارشناسی، میان خطرهای اثبات‌شده و سناریوهای احتمالی تمایز قائل شوند تا تصمیم‌های امنیتی بر پایه ارزیابی دقیق شواهد اتخاذ شود.
انتقال تجربه میان عامل‌ها؛ گامی فراتر از بدافزارهای سنتی
بخش دیگری از آزمایش‌های آنتروپیک به انتقال اطلاعات میان نمونه‌های مختلف یک مدل هوش مصنوعی مربوط می‌شود. در این آزمایش‌ها، پژوهشگران بررسی کردند که آیا یادداشت‌ها و اطلاعات به‌جامانده از نمونه‌های قبلی می‌تواند عملکرد نمونه‌های بعدی را بهبود دهد یا خیر.
بر اساس نتایج گزارش‌شده، در آزمایش‌هایی با مدل Qwen3.۵-9B، میزان موفقیت پس از استفاده از یادداشت‌های نمونه‌های پیشین افزایش یافت. در مرحله پنجم این آزمایش، نرخ موفقیت از ۴۵ درصد به ۸۴ درصد رسید.
این یافته نشان می‌دهد که انتقال اطلاعات میان نمونه‌ها می‌تواند بر عملکرد آن‌ها اثر بگذارد؛ با این حال، چنین نتیجه‌ای به‌تنهایی اثبات‌کننده شکل‌گیری تکامل مستقل یا خودتکثیرشوندگی گسترده در محیط واقعی نیست. ارزیابی پیامدهای این قابلیت به آزمایش‌های بیشتر و بررسی شرایط اجرایی آن نیاز دارد.
آنتروپیک همچنین گزارش کرده است که یک مدل ۹ میلیارد پارامتری توانسته فرایند استنتاج را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده اجرا کند. این نتیجه بر اهمیت سازگاری مدل‌های هوش مصنوعی با بسترهای پردازشی مختلف تأکید دارد؛ قابلیتی که می‌تواند کاربردهای مفیدی داشته باشد، اما در صورت بهره‌برداری مخرب، پیچیدگی مقابله با تهدیدهای سایبری را افزایش دهد.
حکمرانی هوشمند؛ ضرورت تنظیم‌گری متناسب با سرعت فناوری
تحولات یادشده نشان می‌دهد که مدیریت هوش مصنوعی به سیاست‌هایی فراتر از تشویق توسعه فناوری نیاز دارد. حکمرانی هوشمند در این عرصه می‌تواند بر ایجاد توازن میان نوآوری، امنیت عمومی، مسئولیت‌پذیری شرکت‌های فناوری و حفاظت از زیرساخت‌های حیاتی متمرکز شود.
یکی از الزامات این رویکرد، تدوین استانداردهای امنیتی برای دستگاه‌های متصل به اینترنت است. تولیدکنندگان باید امنیت را از مراحل طراحی محصولات در نظر بگیرند و امکان به‌روزرسانی، شناسایی آسیب‌پذیری‌ها و محدودسازی دسترسی‌های غیرضروری را فراهم کنند. همچنین، سازمان‌های مسئول باید توانایی شناسایی و پاسخ‌گویی به حملات پیچیده و مبتنی بر هوش مصنوعی را تقویت کنند.
از سوی دیگر، همکاری میان شرکت‌های فناوری، مراکز پژوهشی و نهادهای سیاست‌گذار می‌تواند به شناسایی زودهنگام خطرها و تدوین قواعد متناسب با تحولات جدید کمک کند. ارزیابی مستقل مدل‌ها، آزمایش امنیتی پیش از عرضه و گزارش‌دهی شفاف درباره آسیب‌پذیری‌ها نیز از جمله اقداماتی است که می‌تواند احتمال بروز خسارت را کاهش دهد.
در نهایت، سرعت پیشرفت هوش مصنوعی ضرورت حرکت هم‌زمان در دو مسیر را افزایش داده است: توسعه ظرفیت‌های علمی و اقتصادی از یک سو و ایجاد سازوکارهای نظارتی و حفاظتی از سوی دیگر. در چنین شرایطی، موفقیت حکمرانی هوشمند به توانایی تصمیم‌گیران در پیش‌بینی مخاطرات، استفاده از شواهد معتبر و هماهنگ کردن سیاست‌های فناورانه با الزامات امنیتی وابسته خواهد بود.
انتهای پیام
