مجموعه توصیه‌های جامعه ایتالیایی دولت باز درباره استفاده از هوش مصنوعی در بخش عمومی این کشور منتشر شد. این توصیه‌ها با هدف گسترش استفاده آگاهانه، منصفانه و مسئولانه از هوش مصنوعی در دستگاه‌های دولتی و افزایش مشارکت جامعه مدنی در نظارت بر خطرات و تبعیض‌های احتمالی ناشی از این فناوری تدوین شده‌اند.
به گزارش پایگاه خبری حکمرانی هوشمند به نقل از وب‌سایت «Italia Open Gov»، این سند در چارچوب تعهد پنجم، موسوم به B5، از ششمین برنامه اقدام ملی دولت باز ایتالیا برای دوره ۲۰۲۴ تا ۲۰۲۶ تهیه شده است. در فرایند تدوین آن، دستگاه‌های دولتی، سازمان‌های جامعه مدنی، کارشناسان، گروه‌های حرفه‌ای و دیگر ذی‌نفعان مشارکت داشته‌اند.
توصیه‌های منتشرشده بر این اصل تأکید دارند که استفاده از هوش مصنوعی در بخش عمومی صرفاً یک انتخاب فناورانه نیست؛ بلکه به شفافیت، عدالت، پاسخگویی، مشارکت دموکراتیک و حفاظت از حقوق بنیادین شهروندان ارتباط دارد. بر همین اساس، سامانه‌های هوش مصنوعی باید با تکیه بر نیروی انسانی متخصص، داده‌های باکیفیت، قواعد سازمانی روشن، تعیین دقیق مسئولیت‌ها و سازوکارهای نظارت عمومی مدیریت شوند.
۱۲ توصیه در پنج محور اصلی
این مجموعه شامل ۱۲ توصیه است که در پنج حوزه به‌هم‌پیوسته دسته‌بندی شده‌اند: آموزش و توانمندسازی، داده‌ها، سامانه‌های هوش مصنوعی، پذیرش و خرید یا توسعه این سامانه‌ها، و در نهایت پایش و ارزیابی آثار آنها.
در حوزه آموزش، بر ضرورت برگزاری دوره‌های مستمر، متناسب با نیازها و کاربردمحور برای کارکنان دستگاه‌های دولتی تأکید شده است. این آموزش‌ها نباید صرفاً به متخصصان فنی محدود بمانند، بلکه لازم است مهارت‌های حقوقی، اجتماعی، ارتباطی، سازمانی و مرتبط با مسائل جنسیتی را نیز در بر بگیرند. درک درست الگوریتم‌ها به افزایش سواد عمومی در این زمینه و ایجاد زبان مشترک میان توسعه‌دهندگان فناوری، تصمیم‌گیران و استفاده‌کنندگان از خدمات نیاز دارد.
محور دیگر توصیه‌ها به کیفیت داده‌ها اختصاص دارد. داده‌های مورد استفاده در سامانه‌های هوش مصنوعی باید کامل، به‌روز، قابل ردیابی، مرتبط، مستند و تفکیک‌شده باشند. این سند هشدار می‌دهد که گردآوری و طبقه‌بندی داده‌ها فرایندی کاملاً خنثی نیست؛ زیرا زبان، دسته‌بندی‌ها، منابع اطلاعاتی و روایت‌های غالب می‌توانند بر نتایج سامانه‌ها اثر بگذارند و حتی نابرابری‌های موجود را بازتولید کنند. ازاین‌رو، عدالت الگوریتمی باید از مرحله طراحی تا ارزیابی و پایش مستمر سامانه‌ها مورد توجه قرار گیرد.
شفافیت و نظارت انسانی بر تصمیم‌های هوش مصنوعی
در بخش دیگری از این توصیه‌ها، بر ضرورت حفظ توانایی مستقل دستگاه‌های دولتی برای شناخت، ارزیابی و کنترل سامانه‌هایی تأکید شده است که به کار می‌گیرند. هدف آن است که نهادهای عمومی به شکل مبهم و غیرقابل نظارت به تأمین‌کنندگان فناوری وابسته نشوند.
بر اساس این سند، استفاده از هوش مصنوعی در خدمات و فرایندهای اداری باید با اطلاع‌رسانی روشن همراه باشد و محتوای تولیدشده یا پردازش‌شده به کمک این فناوری نیز تا حد امکان قابل تشخیص باشد. همچنین تصمیم‌هایی که آثار مهمی بر زندگی افراد دارند، نباید بدون نظارت مؤثر، تخصصی و قابل ردیابی انسانی به‌طور کامل خودکار شوند.
مستندسازی مراحل اصلی آموزش مدل‌های هوش مصنوعی نیز از دیگر الزامات مطرح‌شده است. اطلاعات مربوط به داده‌های مورد استفاده، معیارهای انتخاب آنها، تغییرات اعمال‌شده و منطق تصمیم‌گیری باید به‌گونه‌ای ثبت شود که امکان بررسی و ارزیابی فرایندها وجود داشته باشد.
توجه به خرید و توسعه سامانه‌های هوش مصنوعی
این توصیه‌ها برای نحوه خرید، توسعه و استفاده مجدد از سامانه‌های هوش مصنوعی در دستگاه‌های دولتی نیز اهمیت راهبردی قائل‌اند. بر این اساس، اسناد و شرایط قراردادهای خرید باید الزاماتی درباره کیفیت داده‌ها، حفاظت از حقوق بنیادین، انجام ممیزی‌های دوره‌ای الگوریتمی، ارائه مستندات فنی مناسب و نظارت مستقل داشته باشند.
همچنین پیشنهاد شده است دستگاه‌های دولتی راهکارهایی را در اولویت قرار دهند که مستند، سازگار با سامانه‌های دیگر، قابل ارزیابی و قابل کنترل باشند. چنین رویکردی می‌تواند خطر وابستگی انحصاری به یک تأمین‌کننده را کاهش دهد. ایجاد یک نظام ملی برای طبقه‌بندی میزان بلوغ مدل‌های هوش مصنوعی نیز از پیشنهادهای این سند است؛ نظامی که بتواند امکان مقایسه راهکارها از نظر استحکام، امنیت، دقت و قابلیت اعتماد را فراهم کند.
مشارکت جامعه مدنی در پایش عمومی
در بخش پایش و نظارت، پیشنهاد شده است ثبت ملی قراردادهای مربوط به راهکارهای هوش مصنوعی در نهاد ملی مبارزه با فساد ایتالیا ایجاد شود و اطلاعات اساسی این قراردادها در قالب داده‌های باز در دسترس قرار گیرد.
این توصیه‌ها همچنین خواستار مشارکت سازمان‌یافته جامعه مدنی، کاربران، گروه‌های ذی‌نفع و کارشناسان مستقل در ارزیابی و پایش سامانه‌ها هستند. تشکیل کمیته‌های اخلاقی، نهادهای مشورتی مستقل، تعیین نقاط تماس عمومی و ایجاد سازوکارهای منظم دریافت بازخورد، از جمله ابزارهای پیشنهادی برای تحقق این هدف به شمار می‌روند.
در این رویکرد، شفافیت صرفاً به انتشار اطلاعات محدود نمی‌شود؛ بلکه شهروندان باید امکان درک اطلاعات، بحث درباره آنها و مشارکت در نظارت بر تصمیم‌های عمومی را نیز داشته باشند.
انتشار این توصیه‌ها نشان می‌دهد که در رویکرد دولت باز ایتالیا، حکمرانی هوشمند به معنای استفاده صرف از فناوری‌های نوین نیست، بلکه مدیریت مسئولانه سامانه‌های هوش مصنوعی، پاسخگویی نهادهای عمومی، حفاظت از حقوق شهروندان و فراهم‌کردن امکان نظارت و مشارکت اجتماعی نیز از ارکان آن محسوب می‌شود.
انتهای پیام
