دولت سنگاپور و شرکت گوگل نتایج یک طرح آزمایشی مشترک را برای بررسی قابلیت‌ها و مخاطرات هوش مصنوعی عامل‌محور منتشر کردند. این طرح سه حوزه را در بر می‌گرفت: ارزیابی خودکار کیفیت خدمات دیجیتال دولتی، آزمایش ایمنی سامانه‌های هوش مصنوعی و کمک به متقاضیان خدمات حمایتی اجتماعی.
به گزارش پایگاه خبری حکمرانی هوشمند به نقل از آژانس امنیت سایبری سنگاپور، این محیط آزمایشی که با مشارکت گوگل، آژانس امنیت سایبری سنگاپور، آژانس فناوری دولت و سازمان توسعه رسانه و اطلاعات این کشور اجرا شد، در اوت ۲۰۲۵ آغاز شد و حدود چهار ماه ادامه یافت. هدف آن، بررسی عملکرد عامل‌های هوش مصنوعی در شرایط واقعی و استفاده از نتایج برای بهبود شیوه طراحی، استقرار و نظارت بر این سامانه‌ها بود. نتایج این آزمایش در ۲۰ مه ۲۰۲۶ منتشر شد.
هوش مصنوعی عامل‌محور به سامانه‌هایی گفته می‌شود که می‌توانند با درجه‌ای از خودمختاری، وظایف چندمرحله‌ای را انجام دهند. این فناوری ظرفیت‌هایی برای افزایش بهره‌وری و ارائه خدمات متناسب‌تر با نیاز شهروندان دارد، اما گسترش اختیار آن پرسش‌های تازه‌ای درباره امنیت، حریم خصوصی و مسئولیت‌پذیری ایجاد می‌کند.
سه کاربرد هوش مصنوعی در خدمات دولتی
نخستین حوزه آزمایش، ارزیابی خودکار کیفیت خدمات دیجیتال دولت بود. در این بخش، عامل هوش مصنوعی توانست وب‌سایت‌های دولتی را بررسی کند و مواردی مانند زمان پاسخ‌گویی، عملکرد جست‌وجو و سلامت صفحات را بسنجد. این سامانه همچنین توانست صفحات غیرفعالِ تعبیه‌شده برای آزمایش، متن‌های جایگزین غیرواقعی و ناهماهنگی نشانی‌های اینترنتی محیط آزمایشی را شناسایی کند.
بر اساس گزارش منتشرشده، این تجربه نشان داد که عامل‌های هوش مصنوعی می‌توانند در ارزیابی کیفیت نرم‌افزارها نقش داشته باشند. برخلاف ابزارهای سنتی که بر آزمون‌های از پیش تعریف‌شده تکیه دارند، این سامانه‌ها می‌توانند رابط‌های پویا را تفسیر کنند و بر اساس شرایط مشاهده‌شده، ارزیابی انجام دهند.
دومین حوزه، آزمایش ایمنی سامانه‌های هوش مصنوعی، از جمله چت‌بات‌ها، پیش از عرضه عمومی بود. نتایج نشان داد که عامل‌های هوش مصنوعی می‌توانند آزمون‌های گسترده‌ای را در زبان‌ها و قالب‌های مختلف اجرا کنند و نیاز به ارزیابی دستی را کاهش دهند. با این حال، اجرای آزمایش‌ها کاملاً بدون خطا نبود و گزارش بر ضرورت ادامه ارزیابی و تقویت سازوکارهای اطمینان از ایمنی تأکید کرد.
سومین کاربرد به فرایند درخواست کمک‌های اجتماعی مربوط می‌شد. عامل هوش مصنوعی توانست شهروندان یا مددکاران اجتماعی را در مراحل پیچیده درخواست حمایت راهنمایی کند. به گفته نهادهای مشارکت‌کننده، چنین قابلیتی می‌تواند نیاز به مراجعه حضوری، تماس با خطوط راهنما و پیگیری‌های دستی برای اصلاح درخواست‌های ناقص یا دارای خطا را کاهش دهد.
مخاطرات هوش مصنوعی؛ از امنیت سایبری تا حریم خصوصی
در کنار فرصت‌های شناسایی‌شده، آزمایش مشترک چند دسته خطر را نیز برجسته کرد. نخستین مورد، ضرورت نظارت انسانی و پاسخ‌گویی، به‌ویژه در تصمیم‌هایی است که پیامدهای واقعی برای افراد دارند.
دومین موضوع، ایجاد توازن میان انعطاف‌پذیری و کنترل است. سامانه‌ها باید امکان سازگاری با نیازهای مختلف را داشته باشند، اما این انعطاف‌پذیری نباید به حذف تدابیر حفاظتی منجر شود.
امنیت سایبری نیز از دیگر نگرانی‌های اصلی بود. یکی از تهدیدهای مطرح‌شده، «تزریق غیرمستقیم دستور» است؛ روشی که در آن عامل هوش مصنوعی ممکن است با محتوای گمراه‌کننده فریب بخورد و اقداماتی ناخواسته انجام دهد. گزارش همچنین به خطر اجرای کد از راه دور در برخی سناریوهای حمله اشاره می‌کند.
حفاظت از داده‌ها و حریم خصوصی نیز اهمیت ویژه‌ای دارد؛ زیرا عامل‌های هوش مصنوعی ممکن است مستقیماً با اطلاعات شخصی تعامل داشته باشند و زمینه نشت اطلاعات یا نقض حریم خصوصی را فراهم کنند.
توصیه‌هایی برای استقرار ایمن عامل‌های هوش مصنوعی
بر اساس یافته‌های آزمایش، سنگاپور بر اهمیت آغاز استفاده از عامل‌های هوش مصنوعی در محیط‌های کنترل‌شده و گسترش تدریجی آن‌ها تأکید کرده است. ارزیابی محدود و مرحله‌ای می‌تواند به افزایش اطمینان پیش از استفاده گسترده در محیط واقعی کمک کند.
سطح نظارت انسانی نیز باید متناسب با میزان خطر تنظیم شود. اقداماتی که پیامدهای مهم یا دشوار برای جبران دارند، ممکن است به تأیید قبلی انسان نیاز داشته باشند؛ در مقابل، فعالیت‌های کم‌خطر و قابل بازگشت می‌توانند تحت بررسی پس از اجرا انجام شوند، مشروط بر اینکه سازوکارهای نظارت و جبران خطا وجود داشته باشد.
گزارش همچنین مسئولیت امنیت را میان سطوح مختلف توزیع می‌کند: از پلتفرم و مدل هوش مصنوعی گرفته تا سازمان استفاده‌کننده و کاربر نهایی. سامانه‌ها باید به‌صورت پیش‌فرض ایمن طراحی شوند و هرگونه امکان سفارشی‌سازی یا آزمایش نیز در محدوده‌های حفاظتی مشخص باقی بماند.
در افق بلندمدت، توسعه فناوری‌های عامل‌محور به بررسی محدودیت‌های فنی، امکان همکاری چند عامل هوش مصنوعی و نیازهای زیرساختی تازه وابسته است. برای نمونه، زیرساخت‌های کنونی هویت دیجیتال، احراز هویت، مجوزهای دسترسی و کنترل اختیارات عمدتاً برای تعامل انسان با سامانه‌ها طراحی شده‌اند و ممکن است برای پشتیبانی از تعامل گسترده عامل‌های خودکار به تغییر نیاز داشته باشند.
همکاری میان چند عامل هوش مصنوعی نیز می‌تواند قابلیت‌های تازه‌ای ایجاد کند، اما هم‌زمان چالش‌های تعامل‌پذیری و حکمرانی را افزایش می‌دهد. در این زمینه، استانداردهای مشترک و چارچوب‌های باز، از جمله پروتکل Agent2Agent گوگل، می‌توانند اهمیت بیشتری پیدا کنند.
گزارش در پایان بر ضرورت ایجاد توازن میان شخصی‌سازی خدمات و حفظ حریم خصوصی تأکید می‌کند. هرچه عامل‌ها به اطلاعات شخصی بیشتری دسترسی داشته باشند، لازم است کنترل معنادار کاربران بر داده‌هایشان، محدودسازی استفاده غیرضروری از اطلاعات و راهکارهای تقویت‌کننده حریم خصوصی جدی‌تر گرفته شود.
حکمرانی هوشمند؛ استفاده از فناوری همراه با پاسخ‌گویی
تجربه آزمایشی سنگاپور نشان می‌دهد که بهره‌گیری از هوش مصنوعی در دولت تنها به خودکارسازی فعالیت‌ها یا سرعت‌بخشیدن به خدمات محدود نیست. طراحی چارچوب‌های نظارتی، تعیین مسئولیت‌ها، حفاظت از داده‌ها و حفظ امکان مداخله انسانی نیز بخش مهمی از این فرایند است.
از منظر حکمرانی هوشمند، استقرار مسئولانه هوش مصنوعی زمانی می‌تواند به بهبود خدمات عمومی منجر شود که کارآمدی فناوری با امنیت، شفافیت، پاسخ‌گویی و حفاظت از حقوق شهروندان همراه باشد. آژانس امنیت سایبری سنگاپور این طرح آزمایشی را گامی برای توسعه رویکردی منعطف و نوآوری‌پذیر در حکمرانی دانسته است؛ رویکردی که در آن همکاری دولت، صنعت و دیگر بازیگران برای شکل‌دهی به استفاده ایمن و قابل اعتماد از عامل‌های هوش مصنوعی اهمیت دارد.
انتهای پیام