استیون مک‌فیل، متخصص اقتصاد سلامت و نوآوری در خدمات درمانی، در یادداشتی تأکید کرد که حکمرانی مؤثر بر هوش مصنوعی نه مانعی برای نوآوری، بلکه یکی از پیش‌شرط‌های بهره‌گیری ایمن و پایدار از این فناوری در نظام سلامت است.
به گزارش پایگاه خبری حکمرانی هوشمند به نقل از کمیته توسعه اقتصادی استرالیا (CEDA)، مک‌فیل در مطلبی با عنوان «حکمرانی هوش مصنوعی در نظام سلامت؛ چرا حکمرانی هوشمند بهره‌وری را افزایش می‌دهد؟» استدلال می‌کند که نمی‌توان میان سرعت توسعه هوش مصنوعی و نظارت دقیق بر آن، یکی را انتخاب کرد و دیگری را کنار گذاشت. به اعتقاد او، نظام سلامت به هر دو نیاز دارد؛ هم باید از فرصت‌های فناوری برای بهبود بهره‌وری استفاده کند و هم مخاطرات آن را به‌درستی مدیریت کند.
حکمرانی هوشمند؛ پیوند نوآوری، ایمنی و بهره‌وری
به نوشته مک‌فیل، هوش مصنوعی به‌تدریج در فرایندهای بالینی، اداری و عملیاتی مراکز درمانی جایگاه بیشتری پیدا می‌کند. این سامانه‌ها ممکن است مستقیماً با اطلاعات بیماران سروکار داشته باشند یا بر تصمیم‌هایی اثر بگذارند که با ایمنی، کیفیت خدمات و عدالت در دسترسی به درمان مرتبط‌اند.
از این منظر، نبود سازوکارهای مناسب حکمرانی می‌تواند پیامدهایی مانند تشدید سوگیری، افزایش خطا، آسیب‌پذیری در برابر تهدیدهای امنیت سایبری و کاهش اعتماد پزشکان و مردم را به دنبال داشته باشد. بنابراین، حکمرانی هوش مصنوعی در حوزه سلامت صرفاً یک الزام اداری نیست، بلکه بخشی ضروری از مدیریت کیفیت و ایمنی خدمات درمانی به شمار می‌رود.
مک‌فیل همچنین هشدار می‌دهد که دسترسی به ابزارهای هوش مصنوعی یا اجرای موفق چند طرح آزمایشی، به‌تنهایی به معنای افزایش بهره‌وری نیست. تحقق این هدف به شیوه استقرار فناوری، تناسب آن با نیازهای واقعی نظام سلامت و کارآمدی سازوکارهای تصمیم‌گیری و نظارت بستگی دارد.
به اعتقاد او، اگر فرایندهای نظارتی بیش از اندازه کند باشند یا با واقعیت‌های عملیاتی مراکز درمانی ارتباط نداشته باشند، منافع مورد انتظار محقق نمی‌شود. در چنین شرایطی، پزشکان، مدیران و کارکنان ممکن است به استفاده از ابزارهایی روی بیاورند که خارج از فرایندهای رسمی سازمانی قرار دارند؛ وضعیتی که می‌تواند مخاطرات تازه‌ای ایجاد کند.
حکمرانی متناسب با سطح ریسک
این متخصص اقتصاد سلامت تأکید می‌کند که حکمرانی مؤثر هوش مصنوعی نباید به لایه‌ای اضافی از تشریفات اداری یا مرحله‌ای محدود به دریافت مجوز اولیه تبدیل شود. به گفته او، این سازوکارها باید متناسب با میزان خطر هر کاربرد طراحی شوند، مسئولیت تصمیم‌گیری را روشن کنند و در عین حفظ ایمنی، امکان استفاده از فناوری را فراهم آورند.
برای نمونه، ابزارهای کم‌خطر اداری نباید با همان محدودیت‌هایی روبه‌رو شوند که برای سامانه‌های پرخطرِ پشتیبان تصمیم‌گیری بالینی در نظر گرفته می‌شود. همچنین باید مشخص باشد چه فرد یا نهادی مسئول عملکرد و پیامدهای استفاده از هر سامانه است؛ زیرا پراکندگی مسئولیت‌ها و نامشخص بودن حدود اختیارات می‌تواند روند اجرای پروژه‌ها را متوقف کند و اعتماد به نتایج را کاهش دهد.
از دیدگاه مک‌فیل، حکمرانی هوشمند زمانی اثربخش‌تر خواهد بود که در ساختارهای موجود سازمان‌های درمانی ادغام شود. نظام‌های مدیریت بالینی، تضمین کیفیت، ایمنی، حکمرانی داده و امنیت سایبری از قبل برای مدیریت بخشی از این مخاطرات شکل گرفته‌اند. بنابراین، به‌جای ایجاد فرایندهایی موازی و تکراری، بهتر است نظارت بر هوش مصنوعی با همین ساختارها هماهنگ شود.
چنین رویکردی می‌تواند از دوباره‌کاری جلوگیری کند، ارزیابی خطرها را منسجم‌تر سازد و تصمیم‌گیری درباره کاربردهای جدید را تسهیل کند.
ضرورت توسعه سازوکارهای نظارتی هم‌زمان با گسترش فناوری
مک‌فیل با اشاره به افزایش تعداد ابزارهای هوش مصنوعی در نظام‌های سلامت می‌نویسد که مراکز درمانی دیگر صرفاً با یک یا دو ابزار آزمایشی مواجه نیستند، بلکه ممکن است ده‌ها سامانه را در بخش‌ها و محیط‌های مختلف به کار بگیرند. ازاین‌رو، سازوکارهای حکمرانی باید قابلیت توسعه داشته باشند و بتوانند با روشی یکپارچه، تعداد زیادی از کاربردها را پوشش دهند.
به اعتقاد او، اگر مسئولیت‌های جدید بدون منابع مالی، نیروی انسانی و ظرفیت اجرایی کافی به ساختارهای موجود واگذار شوند، نظام نظارتی یا به مانعی برای پیشرفت تبدیل می‌شود یا به فرایندی سطحی و کم‌اثر فروکاسته خواهد شد. به همین دلیل، حکمرانی هوش مصنوعی باید به‌عنوان بخشی از زیرساخت راهبردی نظام سلامت در نظر گرفته شود، نه هزینه‌ای اداری که بتوان از آن چشم‌پوشی کرد.
نظارت نباید پس از صدور مجوز پایان یابد
این یادداشت بر ضرورت نظارت مستمر بر عملکرد سامانه‌های هوش مصنوعی نیز تأکید دارد. به نوشته مک‌فیل، برخی مخاطرات تنها پس از استقرار فناوری آشکار می‌شوند؛ برای مثال، ممکن است داده‌های ورودی تغییر کنند، ویژگی‌های جمعیت بیماران دگرگون شود یا شیوه انجام فرایندهای درمانی تغییر یابد.
در چنین شرایطی، صدور مجوز اولیه برای استفاده از یک سامانه کافی نیست. سازمان‌های درمانی باید بتوانند عملکرد آن را در طول زمان بررسی کنند، افت کیفیت یا تغییر رفتار مدل را تشخیص دهند و در صورت لزوم، تصمیم‌های قبلی را بازنگری کنند یا استفاده از سامانه را متوقف سازند.
شفافیت، پاسخگویی و عدالت نیز باید از ابتدا در طراحی این سازوکارها لحاظ شوند. به اعتقاد مک‌فیل، اعتماد عمومی به هوش مصنوعی در حوزه سلامت تنها به نتایج آن وابسته نیست، بلکه به نحوه تصمیم‌گیری، امکان پاسخ‌خواهی و توزیع منافع حاصل از فناوری نیز بستگی دارد.
او هشدار می‌دهد که چارچوب‌های بیش از حد پیچیده یا پرهزینه ممکن است باعث شوند مراکز برخوردار از منابع بیشتر از مزایای هوش مصنوعی بهره‌مند شوند، درحالی‌که مراکز کوچک‌تر و مناطق دورتر از دسترسی به این ظرفیت‌ها بازبمانند. در نتیجه، طراحی نامناسب حکمرانی می‌تواند حتی با وجود اهداف مثبت، نابرابری را تشدید کند.
حکمرانی هوشمند؛ ظرفیتی راهبردی برای آینده سلامت
مک‌فیل در جمع‌بندی یادداشت خود تأکید می‌کند که تحقق ظرفیت بهره‌وری هوش مصنوعی در نظام سلامت، به‌جای آنکه در تضاد با حکمرانی باشد، به کیفیت حکمرانی وابسته است. حکمرانی مناسب می‌تواند آزمایش ایمن فناوری‌های جدید را ممکن کند، زمینه گسترش هماهنگ کاربردهای موفق را فراهم آورد و اعتماد پزشکان، مدیران و مردم را افزایش دهد.
به اعتقاد او، انتخاب اصلی میان حکمرانی و بهره‌وری نیست؛ بلکه باید میان سازوکارهایی که با تأخیرهای غیرضروری یا سوق دادن کاربران به استفاده خارج از نظارت، خطرها را افزایش می‌دهند و سازوکارهایی که استفاده مسئولانه و اثربخش از هوش مصنوعی را امکان‌پذیر می‌کنند، تمایز قائل شد.
این دیدگاه نشان می‌دهد که حکمرانی هوشمند در نظام سلامت، تنها به کنترل فناوری محدود نمی‌شود؛ بلکه به معنای طراحی فرایندهایی شفاف، متناسب با ریسک، پاسخ‌گو و قابل ارزیابی است تا نوآوری فناورانه بتواند به بهبود بهره‌وری، کیفیت خدمات، ایمنی و عدالت در سلامت منجر شود.
انتهای پیام
