همزمان با گسترش استفاده از ابزارهای هوش مصنوعی برای جستوجو و خرید اینترنتی، کارشناسان نسبت به ظهور شیوههای جدید کلاهبرداری سایبری هشدار میدهند. بررسیهای اخیر نشان میدهد برخی فروشگاههای جعلی توانستهاند در پاسخهای تولیدشده توسط چتباتهای هوش مصنوعی ظاهر شوند و کاربران را به صفحات فریبنده هدایت کنند.
به گزارش پایگاه خبری حکمرانی هوشمند، بر اساس گزارشی که سرویس بررسی کلاهبرداری Ask Silver منتشر کرده است، مجرمان سایبری با طراحی وبسایتهایی که شباهت زیادی به فروشگاههای معتبر دارند، تلاش میکنند اعتماد کاربران را جلب کرده و اطلاعات مالی آنها را سرقت کنند.
در یکی از نمونههای بررسیشده، از چتجیپیتی درباره کیفها و کولههای محبوب برند «راسل اند بروملی» سؤال شد. پاسخ ارائهشده شامل معرفی محصولات، قیمتها و منابع مختلف بود، اما در میان لینکهای پیشنهادی، دو وبسایت جعلی نیز مشاهده شد که ظاهری مشابه فروشگاه اصلی داشتند.
آنا جونز از Ask Silver با اشاره به این موضوع گفت: «این احتمال وجود دارد که مدل زبانی بزرگ پشتیبان چتجیپیتی مسموم شده باشد.» به گفته وی، مسمومسازی هوش مصنوعی زمانی رخ میدهد که محتوای مخرب یا گمراهکننده وارد دادههایی شود که سیستمهای هوش مصنوعی از آنها برای یادگیری استفاده میکنند.
بررسیها نشان میدهد برخی از این وبسایتها با ارائه تخفیفهای غیرمعمول و چشمگیر، از جمله تخفیفهای تا ۸۰ درصدی، تلاش میکنند کاربران را به خرید ترغیب کنند. در چنین شرایطی، خریدار پس از پرداخت هزینه ممکن است هرگز کالایی دریافت نکند و اطلاعات بانکی او نیز در اختیار کلاهبرداران قرار گیرد.
کارشناسان معتقدند افزایش استفاده از هوش مصنوعی در فرآیند خرید آنلاین، نیاز به توسعه سازوکارهای حکمرانی هوشمند و نظارت مؤثر بر محتوای دیجیتال را بیش از گذشته آشکار کرده است. به باور آنها، ارتقای سواد دیجیتال کاربران و بهبود سامانههای تشخیص محتوای جعلی میتواند نقش مهمی در کاهش این تهدیدها داشته باشد.
لوئیز بکستر، رئیس گروه تشخیص کلاهبرداری در استانداردهای ملی تجارت، در این باره هشدار داد: «مردم نباید صرفاً به این دلیل که یک وبسایت توسط یک چتبات هوش مصنوعی توصیه شده است، آن را معتبر بدانند.» وی تأکید کرد که مجرمان سایبری همگام با پیشرفت فناوری، روشهای خود را نیز بهروزرسانی میکنند و از هر ابزار جدیدی برای دسترسی به قربانیان بالقوه بهره میبرند.
کارشناسان توصیه میکنند کاربران پیش از هرگونه خرید اینترنتی، آدرس وبسایت، اطلاعات تماس، نمادهای اعتبارسنجی و سابقه فروشگاه را به دقت بررسی کنند و صرفاً به پیشنهادهای ارائهشده توسط ابزارهای هوش مصنوعی اتکا نداشته باشند.
انتهای پیام