هاتف رسولی، پژوهشگر اندیشکده اقامه عدل، معتقد است در عصر تحول دیجیتال و حکمرانی داده‌محور، داده‌ها، تحلیل‌های پیشرفته و هوش مصنوعی به عناصر اصلی سیاست‌گذاری عمومی، ارائه خدمات اجتماعی، نظام آماری و تصمیم‌گیری سازمانی تبدیل شده‌اند؛ فناوری‌هایی که در صورت استفاده صحیح می‌توانند ظرفیت مهمی برای تحقق عدالت، برابری و مواسات ایجاد کنند.
به گزارش پایگاه خبری حکمرانی هوشمند، رسولی استدلال می‌کند که این فناوری‌ها با شناسایی دقیق‌تر نیازهای اجتماعی، هدفمندکردن حمایت‌ها، کاهش خطاهای انسانی، افزایش شفافیت و تسهیل دسترسی شهروندان به خدمات، امکان بهبود سیاست‌گذاری و توزیع عادلانه‌تر منابع را فراهم می‌کنند. با این حال، از نگاه این پژوهشگر، فناوری به‌خودی‌خود عادلانه یا بی‌طرف نیست و استفاده از داده‌های ناقص، سوگیرانه یا نامتوازن در طراحی الگوریتم‌ها می‌تواند نابرابری‌های تاریخی را بازتولید کند و حتی در مقیاسی گسترده‌تر و با ظاهری فنی و بی‌طرفانه به تثبیت آن‌ها بینجامد.
وی تأکید می‌کند که مسئله اصلی در به‌کارگیری سامانه‌های هوشمند، صرفاً افزایش دقت مدل‌ها یا سرعت تصمیم‌گیری نیست؛ بلکه باید اطمینان حاصل شود که تصمیم‌های داده‌محور با حقوق بنیادین، کرامت انسانی، عدالت رویه‌ای، برابری فرصت‌ها و حمایت از گروه‌های آسیب‌پذیر سازگار باشند.
ظرفیت هوش مصنوعی برای تحقق عدالت اجتماعی
رسولی معتقد است کلان‌داده و هوش مصنوعی می‌توانند توان دولت‌ها و سازمان‌های عمومی را برای شناخت مسائل اجتماعی و تخصیص منابع افزایش دهند. به گفته وی، تحلیل هم‌زمان داده‌های اقتصادی، اجتماعی، سلامت، آموزش و جغرافیایی می‌تواند به شناسایی فقر پنهان، مناطق کم‌برخوردار، خانوارهای در معرض آسیب و گروه‌هایی که از خدمات عمومی محروم مانده‌اند، کمک کند.
وی استدلال می‌کند که این ظرفیت، زمینه حرکت از حمایت‌های عمومی و کم‌هدف به سمت عدالت هوشمند و متناسب با نیاز را فراهم می‌سازد. در حوزه رفاه اجتماعی، الگوریتم‌ها می‌توانند به شناسایی سریع‌تر نیازمندان، پیش‌بینی بحران‌های اجتماعی، کاهش هم‌پوشانی خدمات و جلوگیری از اتلاف منابع کمک کنند.
این پژوهشگر همچنین بر کاربرد تحلیل داده‌ها در حوزه سلامت و آموزش تأکید دارد و معتقد است استفاده از این ظرفیت‌ها می‌تواند به تخصیص عادلانه‌تر منابع درمانی، شناسایی الگوهای بیماری، پیشگیری هدفمند و شناسایی دانش‌آموزان در معرض ترک تحصیل یا محرومیت آموزشی منجر شود.
خطر بازتولید تبعیض در تصمیم‌گیری الگوریتمی
رسولی با اشاره به محدودیت‌های ادعای بی‌طرفی فناوری تصریح می‌کند که الگوریتم‌ها بر اساس داده‌ها، متغیرها، تعاریف و اهدافی عمل می‌کنند که انسان‌ها تعیین کرده‌اند؛ بنابراین، بی‌طرفی فنی آن‌ها نباید با بی‌طرفی اجتماعی اشتباه گرفته شود.
به باور وی، اگر داده‌های تاریخی منعکس‌کننده تبعیض، محرومیت یا حذف گروهی خاص باشند، مدل‌های یادگیری ماشین ممکن است همان الگوها را به‌عنوان روابط معتبر و قابل تعمیم شناسایی کنند. در چنین شرایطی، مسئله «ورودی نامناسب، خروجی نامناسب» از یک موضوع فنی فراتر می‌رود و به مسئله‌ای اجتماعی و حقوقی تبدیل می‌شود.
این پژوهشگر استدلال می‌کند که سوگیری الگوریتمی می‌تواند در مراحل مختلف، از تعریف مسئله و گردآوری داده‌ها تا انتخاب نمونه، برچسب‌گذاری، طراحی متغیرها، آموزش مدل، تفسیر خروجی یا استفاده نهایی مدیران و کارشناسان، شکل بگیرد.
وی همچنین هشدار می‌دهد که حذف مستقیم متغیرهایی مانند جنسیت یا قومیت لزوماً مانع تبعیض نمی‌شود؛ زیرا متغیرهایی نظیر کدپستی، نوع مدرسه، سابقه شغلی، الگوی خرید یا محل سکونت ممکن است به‌صورت غیرمستقیم نقش نماینده همان ویژگی‌های حساس را ایفا کنند.
ضرورت ارزیابی حقوقی و اجتماعی پیش از استقرار سامانه‌ها
رسولی معتقد است تحقق عدالت در حکمرانی داده‌محور مستلزم آن است که ارزیابی اثرات اخلاقی، اجتماعی و حقوقی به مراحل پیش از طراحی و استقرار سامانه‌ها منتقل شود. به گفته وی، هر پروژه هوش مصنوعی در حوزه‌های پرریسک باید پیش از اجرا مشخص کند که چه حقوقی را تحت تأثیر قرار می‌دهد، چه گروه‌هایی در معرض آسیب قرار دارند، داده‌های مورد استفاده تا چه اندازه نماینده جامعه هستند و در صورت بروز خطا چه سازوکار جبرانی در نظر گرفته شده است.
وی تقویت نظام حاکمیت داده را یکی دیگر از الزامات این مسیر می‌داند و تأکید می‌کند که کیفیت، منشأ، نمایندگی، امنیت، دوره نگهداری و نحوه استفاده از داده‌ها باید مستند باشد. از دیدگاه او، داده‌های مربوط به گروه‌های آسیب‌پذیر نباید صرفاً برای کنترل، رتبه‌بندی یا حذف این گروه‌ها به کار گرفته شوند، بلکه باید از آن‌ها برای شناسایی نیازها و گسترش دسترسی به خدمات نیز استفاده کرد.
تصمیم‌های حساس باید زیر نظر انسان باقی بمانند
این پژوهشگر با تأکید بر ضرورت نظارت انسانی بر تصمیم‌های الگوریتمی معتقد است تصمیم‌های اثرگذار بر حقوق و معیشت افراد نباید بدون نظارت انسانی اتخاذ شوند. در حوزه‌هایی مانند قطع حمایت اجتماعی، رد اعتبار، استخدام، ارزیابی قضایی یا تخصیص خدمات حیاتی، خروجی الگوریتم باید نقش مشورتی داشته باشد و تصمیم نهایی به کارشناسان پاسخگو و قابل نظارت سپرده شود.
رسولی همچنین بر به‌رسمیت‌شناختن حقوق شهروندان در مواجهه با تصمیم‌های سامانه‌های هوشمند تأکید می‌کند. به اعتقاد وی، حق اطلاع، حق توضیح، حق اعتراض و حق درخواست بازبینی انسانی باید برای شهروندان تضمین شود. افزون بر این، راه‌اندازی سامانه‌های دیجیتال نباید به حذف مسیرهای حضوری، تلفنی یا انسانی برای افرادی منجر شود که به خدمات دیجیتال دسترسی ندارند.
ممیزی مستمر و مشارکت گروه‌های مختلف در طراحی سامانه‌ها
رسولی ممیزی مستقل و مستمر را از دیگر الزامات حکمرانی عادلانه داده‌محور می‌داند و معتقد است ارزیابی سوگیری نباید تنها هنگام خرید یا راه‌اندازی یک سامانه انجام شود. به گفته وی، تغییرات جمعیتی، تغییر رفتار کاربران، اصلاح قوانین و دگرگونی کیفیت داده‌ها می‌تواند عملکرد مدل را تحت تأثیر قرار دهد؛ ازاین‌رو، پایش انحراف داده‌ها و مدل‌ها باید بخشی از مدیریت مستمر سامانه باشد.
وی در ادامه بر اهمیت تنوع در تیم‌های طراحی و تصمیم‌گیری تأکید می‌کند و استدلال می‌کند که حضور متخصصان فنی در کنار کارشناسان حقوقی، اجتماعی، اقتصادی و جنسیتی و همچنین نمایندگان گروه‌های ذی‌نفع، احتمال نادیده‌ماندن آثار اجتماعی و سوگیری‌های پنهان را کاهش می‌دهد.
بر این اساس، از دیدگاه این پژوهشگر، بهره‌گیری عادلانه از هوش مصنوعی مستلزم آن است که توسعه فناوری با سازوکارهای شفافیت، پاسخگویی، نظارت انسانی، حمایت از حقوق شهروندان و ارزیابی مستمر آثار اجتماعی همراه شود تا حکمرانی داده‌محور به ابزاری برای کاهش نابرابری‌ها و گسترش عدالت تبدیل شود، نه عاملی برای بازتولید تبعیض‌های موجود.
انتهای پیام