شماری از بزرگ‌ترین شرکت‌های فناوری جهان با هدف تقویت امنیت سایبری در عصر هوش مصنوعی، ائتلافی جدید با عنوان اتحاد هوش مصنوعی امن باز (Open Secure AI Alliance) تشکیل دادند. این ابتکار که با مشارکت شرکت‌هایی همچون انویدیا، مایکروسافت، اسپیس‌ایکس، ادوبی، سیسکو، آی‌بی‌ام، دل، کلادفلر، زیمنس و بنیاد لینوکس راه‌اندازی شده، توسعه ابزارهای متن‌باز برای حفاظت از نرم‌افزارها، عامل‌های هوش مصنوعی و زیرساخت‌های حیاتی را دنبال می‌کند.
به گزارش پایگاه خبری حکمرانی هوشمند، اعضای این ائتلاف اعلام کرده‌اند که هدف اصلی آنها ایجاد بستری مشترک برای توسعه، اشتراک‌گذاری و ارتقای فناوری‌های متن‌باز دفاع سایبری است تا سازمان‌ها و دولت‌ها بتوانند در برابر تهدیدهای پیچیده و رو به رشد مبتنی بر هوش مصنوعی، از ابزارهایی شفاف‌تر، قابل ارزیابی‌تر و قابل اعتمادتر بهره ببرند.
در بیانیه منتشرشده از سوی انویدیا تأکید شده است که این اتحاد بر توسعه فناوری‌ها، روش‌ها و ابزارهای باز برای محافظت از نرم‌افزارها و عامل‌های هوش مصنوعی تمرکز خواهد داشت. همچنین این شرکت اعلام کرده است مدل‌های متن‌باز، وزن مدل‌ها، داده‌های پژوهشی و نتایج تحقیقات خود در زمینه مهار عامل‌های هوش مصنوعی را در اختیار این ابتکار قرار می‌دهد.
یکی از نکات قابل توجه در فهرست اعضای اولیه این ائتلاف، غیبت شرکت‌هایی مانند OpenAI، گوگل و Anthropic است. این موضوع به‌ویژه پس از رخداد امنیتی اخیر در پلتفرم Hugging Face مورد توجه قرار گرفته است؛ رخدادی که نشان داد ابزارهای بسته هوش مصنوعی در برخی تحلیل‌های امنیتی کارایی لازم را نداشته‌اند و استفاده از یک مدل متن‌باز در تحلیل بیش از ۱۷ هزار رخداد امنیتی، به شناسایی و مهار نفوذ کمک کرده است.
اعضای این ائتلاف معتقدند مدل‌های متن‌باز در حوزه امنیت سایبری مزیت‌های مهمی نسبت به سامانه‌های بسته دارند، زیرا سازمان‌ها می‌توانند آنها را در زیرساخت‌های خود بررسی، ممیزی، سفارشی‌سازی و اجرا کنند. این موضوع کنترل بیشتری بر داده‌های حساس، فرآیندهای امنیتی و تصمیم‌گیری‌های دفاعی فراهم می‌کند و وابستگی به ارائه‌دهندگان محدود خدمات را کاهش می‌دهد.
به گفته کارشناسان، تجربه اخیر Hugging Face نشان داد زمانی که مدافعان سایبری امکان بررسی و اجرای مستقیم مدل‌های هوش مصنوعی را در زیرساخت‌های خود نداشته باشند، سرعت و دقت واکنش آنها در برابر حملات کاهش می‌یابد؛ مسئله‌ای که در تهدیدهای سایبری پیشرفته می‌تواند پیامدهای جدی به همراه داشته باشد.
این اتحاد همچنین تأکید دارد که امنیت هوش مصنوعی تنها به خود مدل‌ها محدود نمی‌شود و باید کل اکوسیستم عامل‌های هوشمند را در بر بگیرد. به همین دلیل، موضوعاتی مانند مدیریت هویت، کنترل دسترسی، مهار عامل‌های هوش مصنوعی، گاردریل‌های امنیتی، ثبت رویدادها، حسابرسی و ارزیابی مستمر، از ارکان اصلی این پروژه محسوب می‌شوند.
در همین راستا، انویدیا چارچوب متن‌باز جدیدی را برای مدیریت و مهار عامل‌های هوش مصنوعی به این ابتکار افزوده است؛ چارچوبی که امکان آزمایش، ردیابی، حسابرسی و کنترل رفتار عامل‌های هوشمند را برای سازمان‌ها ساده‌تر می‌کند. سایر اعضای ائتلاف نیز فناوری‌ها و ابزارهای تخصصی خود را برای تکمیل این معماری امنیتی ارائه خواهند کرد.
اعضای اتحاد در عین حال اذعان کرده‌اند که مدل‌های متن‌باز ممکن است همانند مدل‌های بسته مورد سوءاستفاده مهاجمان قرار گیرند، اما تأکید دارند راه‌حل، محدود کردن دسترسی مدافعان به فناوری‌های باز نیست. از دیدگاه آنها، حکمرانی هوشمند در حوزه هوش مصنوعی زمانی محقق می‌شود که توسعه مدل‌های متن‌باز با سازوکارهای نظارتی، چارچوب‌های حقوقی، ارزیابی‌های مستمر و قوانین روشن برای مقابله با سوءاستفاده همراه باشد.
این ائتلاف همچنین از دولت‌ها و سیاست‌گذاران خواسته است به ابزارهای متن‌باز امنیتی، مدل‌های هوش مصنوعی و سامانه‌های مهار عامل‌ها به‌عنوان دارایی‌های راهبردی دفاع سایبری نگاه کنند. اعضای این گروه هشدار داده‌اند که اعمال محدودیت‌های گسترده بر فناوری‌های متن‌باز می‌تواند وابستگی کشورها و سازمان‌ها به تعداد محدودی از ارائه‌دهندگان سامانه‌های بسته را افزایش داده و در نهایت تاب‌آوری امنیت سایبری را کاهش دهد.
در پایان، اعضای اتحاد بر ضرورت سرمایه‌گذاری مشترک دولت‌ها و بخش خصوصی در توسعه مجموعه‌داده‌ها، چارچوب‌های ارزیابی، شبیه‌سازهای حملات سایبری و ابزارهای آزمایش امنیتی تأکید کردند؛ زیرساخت‌هایی که به اعتقاد آنها نقش مهمی در ارتقای امنیت دیجیتال و تحقق حکمرانی هوشمند در عصر گسترش عامل‌های هوش مصنوعی خواهند داشت.
انتهای پیام