نشست تخصصی «هوش مصنوعی در عمل» که با همکاری شرکت‌های Enlighten Designs و Deloitte در نیوزیلند برگزار شد، بر نقش زیرساخت‌های داده‌ای قدرتمند و حکمرانی هوشمند و پاسخ‌گو در توسعه مطمئن هوش مصنوعی تأکید کرد.
به گزارش پایگاه خبری حکمرانی هوشمند به نقل از وب‌سایت Enlighten Designs، این نشست که سوم نوامبر برگزار شد، با استقبال گسترده مدیران کسب‌وکار و متخصصان هوش مصنوعی روبه‌رو شد. شرکت‌کنندگان در مراحل مختلف استفاده از هوش مصنوعی، از آشنایی اولیه تا اجرای عملی پروژه‌ها، گرد هم آمدند تا به این پرسش پاسخ دهند که چگونه می‌توان از فرصت‌های هوش مصنوعی بهره برد و هم‌زمان خطرهای ناشی از آن را مدیریت کرد.
در این نشست، دکتر دریشتی راتنا از شرکت Enlighten Designs با اشاره به نقش هوش مصنوعی در محیط کار گفت: «هوش مصنوعی ابزاری برای جایگزینی نیروی انسانی نیست؛ بلکه ضریب‌دهنده‌ای است که فرایندهای کاری را تقویت می‌کند، زمان انجام کارهای تکراری را کاهش می‌دهد و به کارکنان امکان می‌دهد بر فعالیت‌های باارزش‌تر تمرکز کنند.»
به اعتقاد وی، مسئله اصلی صرفاً استفاده از فناوری‌های جدید نیست، بلکه سازمان‌ها باید بدانند از کجا شروع کنند، چگونه بر عملکرد سامانه‌های هوش مصنوعی نظارت داشته باشند و چگونه هنگام انتقال این فناوری از مرحله آزمایشی به مرحله بهره‌برداری واقعی، اعتماد ایجاد کنند.
کیفیت داده؛ شرط اولیه موفقیت هوش مصنوعی
در بخش نخست نشست، ورن رابرتس، مدیر ارشد حوزه داده و هوش مصنوعی در شرکت Enlighten Designs، بر اهمیت کیفیت داده‌ها تأکید کرد و گفت سازمان‌ها پیش از توسعه سامانه‌های هوش مصنوعی باید از آمادگی و اعتبار داده‌های خود اطمینان حاصل کنند.
رابرتس با بیان اینکه کیفیت عملکرد هوش مصنوعی به کیفیت داده‌های مورد استفاده آن وابسته است، به آمارهایی اشاره کرد که نشان می‌دهد بسیاری از پروژه‌های هوش مصنوعی به‌دلیل ضعف زیرساخت‌های داده‌ای با شکست مواجه می‌شوند یا ادامه آن‌ها متوقف می‌شود.
بر اساس آماری که وی در این نشست ارائه کرد، ۴۲ درصد شرکت‌ها پیش‌تر برخی طرح‌های هوش مصنوعی خود را کنار گذاشته‌اند. همچنین ۹۹ درصد پروژه‌های هوش مصنوعی با موانعی در زمینه کیفیت داده روبه‌رو می‌شوند و در نیوزیلند نیز ضعف بنیان‌های داده‌ای عامل شکست ۸۰ درصد این پروژه‌ها عنوان شده است.
به گفته رابرتس، یکی از پیامدهای استفاده از داده‌های نامعتبر، تولید پاسخ‌های نادرست و ساختگی از سوی سامانه‌های هوش مصنوعی است؛ پاسخ‌هایی که ممکن است در ظاهر کاملاً معتبر و قانع‌کننده به نظر برسند، اما در واقعیت صحت ندارند.
وی توضیح داد سازمان‌هایی که در استفاده از هوش مصنوعی موفق‌تر عمل می‌کنند، به‌جای آغاز کار با ابزارهای پیشرفته و پرزرق‌وبرق، یک مسیر چهارمرحله‌ای را دنبال می‌کنند.
مرحله نخست، شناخت دقیق وضعیت موجود از طریق تحلیل توصیفی و تهیه گزارش‌های قابل اتکاست. در این مرحله، سازمان باید بداند چه اتفاقی در حال رخ دادن است. بر اساس آمار ارائه‌شده در نشست، بیش از ۹۰ درصد سازمان‌ها تنها با بهبود شناخت و گزارش‌دهی درباره وضعیت فعالیت‌های خود، ارزش قابل اندازه‌گیری و فوری به دست می‌آورند.
مرحله دوم، تحلیل تشخیصی و شناسایی دلایل وقوع رویدادهاست. در این مرحله، سازمان از توصیف وضعیت فراتر می‌رود و تلاش می‌کند چرایی مسائل و روندها را شناسایی کند تا تصمیم‌گیری‌ها به‌جای اتکا به حدس و گمان، بر شواهد و اطلاعات استوار باشد.
مرحله سوم، تحلیل پیش‌بینانه است که با استفاده از یادگیری ماشین، امکان پیش‌بینی روندها و رویدادهای آینده را فراهم می‌کند. در این بخش از نشست، به رشد بازار این حوزه از ۲۲ میلیارد دلار به ۹۲ میلیارد دلار تا سال ۲۰۳۲ اشاره شد.
مرحله چهارم نیز استفاده از هوش مصنوعی پیشرفته و هوش مصنوعی مولد برای ارائه راهکارها و دستیابی به نتایج واقعی در فعالیت‌های سازمانی است؛ مرحله‌ای که تنها پس از ایجاد زیرساخت‌های مناسب داده‌ای و تحلیلی می‌تواند به نتایج مؤثر منجر شود.
رابرتس همچنین بر اهمیت زیرساخت‌های فنی تأکید کرد و زیرساخت به‌عنوان کد و چارچوب پذیرش ابر مایکروسافت را از پایه‌های این مسیر دانست. به گفته وی، سازمان‌ها باید متناسب با مراحل توسعه خود، از رویکردهای DevOps به DataOps، سپس MLOps و در نهایت LLMOps حرکت کنند.
در این نشست همچنین عنوان شد شرکت‌هایی که این مسیر مرحله‌ای را به‌درستی طی می‌کنند، در مقایسه با رقبای خود می‌توانند رشد درآمدی ۳۰ تا ۵۰ درصد بیشتری تجربه کنند؛ در حالی که نادیده گرفتن زیرساخت‌های اولیه، خطر شکست پروژه‌های هوش مصنوعی را افزایش می‌دهد.
حکمرانی هوش مصنوعی؛ از مدیریت ریسک تا پاسخ‌گویی مستمر
در بخش دیگری از نشست، نمایندگان شرکت Deloitte به تشریح الزامات حکمرانی هوش مصنوعی پرداختند. رینش بهانا، شریک حوزه ریسک، مقررات و راهکارهای حکمرانی، و ماریته ون نیکرک، مدیر و مسئول حوزه هوش مصنوعی قابل اعتماد، مجموعه‌ای از اقدامات ضروری برای استفاده ایمن و اثربخش از این فناوری را مطرح کردند.
نخستین اقدام، تعیین چارچوب‌ها و انتظارات روشن از ابتدای مسیر است. سازمان‌ها باید شناخت دقیقی از نحوه استفاده کارکنان از هوش مصنوعی، از جمله ابزارهایی که بدون تأیید رسمی به کار گرفته می‌شوند، داشته باشند و قواعد مشخصی برای حفاظت از حریم خصوصی، مالکیت فکری، اطلاعات محرمانه و داده‌های طرف‌های ثالث تدوین کنند.
دومین اقدام، وارد کردن ملاحظات مدیریت ریسک به مراحل اولیه توسعه است. بر این اساس، امنیت، نظارت بر سوگیری‌های احتمالی الگوریتم‌ها و بررسی منشأ و اعتبار داده‌ها نباید به مراحل پایانی پروژه موکول شوند، بلکه باید از ابتدای طراحی و اجرا مورد توجه قرار گیرند.
سومین محور، ایجاد سازوکارهای پاسخ‌گویی است. استفاده از داشبوردهای ارزیابی عملکرد هوش مصنوعی، پایش مستمر و تعیین مسیرهای مشخص برای گزارش و رسیدگی به مشکلات، از جمله اقداماتی است که می‌تواند نظارت بر این فناوری را تقویت کند.
چهارمین اقدام، بهره‌گیری از ابزارها و توانمندی‌های فنی برای نظارت مستمر بر کیفیت و ریسک‌هاست. با گسترش استفاده از هوش مصنوعی در سازمان‌ها، اتکا به فرایندهای دستی برای کنترل عملکرد و شناسایی خطرها دشوار و ناکارآمد خواهد شد؛ ازاین‌رو، استفاده از ابزارهای خودکار برای پایش و گزارش‌دهی ضروری است.
پنجمین محور نیز ایجاد تعادل میان نوآوری و نظارت است. سازمان‌ها باید متناسب با سطح بلوغ و آمادگی خود، مسیر مرحله‌ای و متناسبی برای حکمرانی هوش مصنوعی طراحی کنند. آزمایش‌های گسترده بدون نظارت و چارچوب مشخص می‌تواند پروژه‌ها را متوقف کند و در مقابل، سیاست‌گذاری بیش از اندازه و بدون اجرای عملی نیز ممکن است سرعت رقابت و نوآوری را کاهش دهد.
در جمع‌بندی این بخش تأکید شد که سازمان‌ها نباید برای آغاز اقدامات اعتمادساز و تقویت تاب‌آوری در استفاده از هوش مصنوعی منتظر رسیدن به شرایط کاملاً ایده‌آل بمانند. حکمرانی این فناوری باید هم‌زمان با افزایش سطح استفاده و بلوغ سازمانی توسعه یابد و از تعیین اصول اولیه و چارچوب‌های نظارتی تا طرح پرسش‌های اساسی درباره خطرها و الزامات موفقیت را در بر بگیرد.
تجربه عملی؛ کاهش زمان فرایند جذب نیروی انسانی با کمک هوش مصنوعی
در بخش پایانی نشست، دیمون کلی، مدیرعامل شرکت Enlighten Designs، نمونه‌ای عملی از استفاده موفق هوش مصنوعی در فرایندهای سازمانی ارائه کرد.
این شرکت با بهره‌گیری از هوش مصنوعی، فرایند جذب نیروی انسانی خود را متحول کرده است؛ به‌گونه‌ای که کاری که پیش از این به ۲۹۰ ساعت فعالیت دستی نیاز داشت، اکنون در ۱۶ ساعت انجام می‌شود.
به گفته کلی، هدف از این تحول جایگزینی نیروهای متخصص منابع انسانی نبود، بلکه کاهش فعالیت‌های تکراری و زمان‌بر و فراهم کردن فرصت بیشتر برای تمرکز کارشناسان بر شناسایی داوطلبان دارای تجربه، مهارت و تناسب فرهنگی با سازمان بود.
این تجربه همچنین نشان داد استفاده صحیح از هوش مصنوعی می‌تواند به کاهش سوگیری‌های ناشی از برداشت‌های اولیه در ارزیابی متقاضیان کمک کند و فرایند انتخاب را بیشتر بر تجربه و تخصص افراد متمرکز سازد.
سه توصیه برای توسعه مسئولانه هوش مصنوعی
در پایان این نشست، سه اقدام به مدیران و تصمیم‌گیران سازمانی پیشنهاد شد: نخست، ارزیابی آمادگی داده‌ها برای شناسایی نقاط قوت و ضعف زیرساخت‌های اطلاعاتی؛ دوم، تدوین و تثبیت سیاست‌های مربوط به هوش مصنوعی مولد و سازوکارهای اطمینان از عملکرد آن، به‌گونه‌ای که حکمرانی از ابتدا در فرایندها جای بگیرد؛ و سوم، انتخاب دو مورد کاربردی با اثرگذاری بالا و چارچوب نظارتی مناسب برای تبدیل آن‌ها به محصولات و خدمات عملیاتی در فصل آینده.
جمع‌بندی نشست «هوش مصنوعی در عمل» این بود که توسعه موفق هوش مصنوعی بدون داده‌های قابل اعتماد، زیرساخت مناسب، مدیریت ریسک و پاسخ‌گویی امکان‌پذیر نیست. سازمان‌ها برای بهره‌برداری از ظرفیت‌های این فناوری باید هم‌زمان با توسعه قابلیت‌های فنی، سازوکارهای حکمرانی و اعتمادسازی را نیز تقویت کنند.
انتهای پیام