انتشار گسترده ابزارهای هوش مصنوعی در سالهای اخیر، فرصتهای تازهای را برای تولید محتوا، تحلیل دادهها و تصمیمسازی در اختیار سازمانها قرار داده است. با این حال، افزایش اتکا به این فناوری، نگرانیهایی را نیز درباره صحت اطلاعات و اعتبار منابع به وجود آورده است.
به گزارش پایگاه خبری حکمرانی هوشمند، در همین راستا، گزارشی که شرکت KPMG در اکتبر سال گذشته با عنوان «تجربه کامل: بازتعریف تعالی در عصر هوش مصنوعی عاملمحور» منتشر کرده بود، با انتقادهای گستردهای مواجه شده است. پژوهشگران شرکت GPTZero پس از بررسی این گزارش اعلام کردند که در بخشهای مختلف آن با ارجاعات و پاورقیهای جعلی یا نادرست روبهرو شدهاند؛ موضوعی که بعدها از سوی روزنامه فایننشال تایمز نیز مورد تأیید قرار گرفت.
بر اساس یافتههای GPTZero، تنها ۵ مورد از ۴۵ ارجاع موجود در گزارش به منابع واقعی و صحیح اشاره داشته است. همچنین ۲۸ ارجاع دارای بازنویسی یا اطلاعات افزودهشده غیرواقعی بوده و ۱۲ ارجاع دیگر نیز به اندازهای مبهم تنظیم شده بودند که امکان تشخیص وجود یا عدم وجود منبع اصلی وجود نداشت.
پژوهشگران علاوه بر ایرادات مربوط به منابع، به محتوای گزارش نیز ایراد وارد کردند. به گفته آنان، حدود نیمی از ادعاهای مطرحشده در این گزارش «ساختگی بوده یا به اشتباه به منابع نسبت داده شدهاند». بررسیها نشان میدهد بخشی از این خطاها احتمالا ناشی از استفاده از ابزارهای پژوهشی مبتنی بر هوش مصنوعی برای یافتن نمونههای کاربردی از «هوش مصنوعی عاملمحور» بوده است.
یکی از نمونههای مطرحشده در گزارش، مربوط به شرکت هواپیمایی امارات بود. KPMG مدعی شده بود که این شرکت چتباتی به نام «سارا» راهاندازی کرده که توانایی گفتوگو با مسافران و تغییر پروازهای آنان را دارد. اما بررسیها نشان داد «سارا» در واقع یک دستیار موبایلی معرفیشده در سال ۲۰۲۳ بوده و قابلیت تغییر رزرو پروازها را نداشته است.
نمونه دیگر به بانک سوئیسی UBS مربوط میشد. KPMG در گزارش خود نوشته بود این بانک از هوش مصنوعی عاملمحور در حوزههای مشاوره سرمایهگذاری، مدیریت ریسک و نظارت بر انطباق مقررات استفاده میکند. با این حال، UBS این ادعا را رد کرده و آن را «از نظر واقعیات نادرست» توصیف کرده است.
همچنین ادعای استفاده راهآهن فدرال سوئیس از عاملهای هوش مصنوعی برای برنامهریزی و بهینهسازی سفر مسافران نیز از سوی این شرکت تأیید نشد و سخنگوی راهآهن سوئیس اعلام کرد که این اطلاعات دقیق نیست.
اهمیت این ماجرا از آن جهت است که گزارشهای منتشرشده توسط شرکتهای مشاورهای بزرگ مانند KPMG معمولاً به عنوان منابع معتبر در تحقیقات و گزارشهای بعدی مورد استناد قرار میگیرند. از همین رو، بروز خطاهای گسترده در چنین اسنادی میتواند اعتماد عمومی به محتوای تولیدشده با کمک هوش مصنوعی را تحت تأثیر قرار دهد.
در واکنش به این انتقادها، سخنگوی KPMG اعلام کرده است که این شرکت دقت و سلامت محتوای منتشرشده خود را بسیار جدی میگیرد. به گفته وی، گزارش یادشده از دسترس خارج شده و این شرکت در حال بررسی نحوه انتشار و شرایط شکلگیری آن است.
انتهای پیام