پژوهش جدید گروهی از دانشمندان آمریکایی نشان می‌دهد استفاده از خلاصه‌های تولیدشده توسط هوش مصنوعی، در صورت وجود اطلاعات نادرست یا حذف جزئیات مهم، می‌تواند فراتر از انتقال یک خبر یا محتوای اشتباه عمل کرده و حتی برداشت افراد از یک رویداد و حافظه آنها را تحت تأثیر قرار دهد.
به گزارش پایگاه خبری حکمرانی هوشمند، استفاده از ابزارهای هوش مصنوعی برای خلاصه‌کردن محتوا در سال‌های اخیر گسترش پیدا کرده است؛ از ارائه خلاصه برای مطالب خبری و تهیه رونوشت جلسات کاری گرفته تا پردازش محتوای حساس، از جمله ویدئوهای ثبت‌شده توسط دوربین‌های نصب‌شده روی لباس نیروهای پلیس. با این حال، نتایج یک مطالعه جدید نشان می‌دهد که خطا در فرآیند خلاصه‌سازی می‌تواند پیامدهایی فراتر از حذف چند جزئیات داشته باشد.
به نقل از یورک‌الرت، پژوهشگران دانشگاه جورج‌تاون و دانشگاه واشنگتن در این مطالعه بررسی کردند که ارائه خلاصه‌های نادرست از ویدئوها چه اثری بر حافظه و برداشت افراد از آنچه واقعاً اتفاق افتاده است، دارد.
«یوشی کوهنو» از پژوهشگران این پروژه درباره رویکرد این مطالعه گفت: «این پژوهش بخشی از تلاشی فزاینده در دانشگاه جورج‌تاون است که با تکیه بر روان‌شناسی و علوم رایانه انجام شده و بر بررسی تأثیر هوش مصنوعی و انسان بر یکدیگر و رابطه میان آنها تمرکز دارد.»
یافته‌های این پژوهش نشان داد که یکی از مهم‌ترین مشکلات خلاصه‌های تولیدشده توسط هوش مصنوعی، حذف اطلاعات کلیدی است. پژوهشگران برای بررسی این موضوع، ویدیویی انیمیشنی درباره تصادف یک خودرو با عابر پیاده را مورد بررسی قرار دادند.
بر اساس نتایج مطالعه، خلاصه‌های تولیدشده در همه دستورها و مدل‌های مورد آزمایش، به طور میانگین ۵۱.۶ درصد از جزئیات محوری و مهم ویدئو را حذف کردند. همچنین به جز یک مورد، ۹۵ درصد از خلاصه‌ها مهم‌ترین جزئیات رویداد یعنی برخورد خودرو با عابر پیاده را در بر نداشتند.
اما اهمیت یافته‌ها تنها به حذف اطلاعات محدود نمی‌شود. پژوهشگران بررسی کردند که آیا اطلاعات ارائه‌شده در خلاصه‌های گمراه‌کننده می‌تواند حافظه افراد درباره آنچه در ویدئو دیده‌اند را نیز تغییر دهد یا خیر.
در یکی از بخش‌های آزمایش، از شرکت‌کنندگان پرسیده شد که خودروی موجود در ویدئو به تابلوی «ایست» رسیده بود یا تابلوی «حق تقدم». نتایج نشان داد در میان افرادی که خلاصه‌ای حاوی اطلاعات دقیق درباره ویدئو را مطالعه کرده بودند، ۸۳.۶ درصد پاسخ صحیح دادند. این میزان پس از مطالعه خلاصه گمراه‌کننده به ۴۴.۸ درصد کاهش یافت.
این یافته به این معناست که یک خلاصه نادرست می‌تواند حتی پس از مشاهده یک محتوای ویدئویی، بر یادآوری افراد از جزئیات آن رویداد اثر بگذارد. پژوهشگران همچنین دریافتند میزان آسیب‌پذیری افراد در برابر اطلاعات نادرست، وابستگی مشخصی به میزان اعتماد یا آشنایی آنها با فناوری هوش مصنوعی نداشت.
به بیان دیگر، این مسئله صرفاً به افرادی محدود نمی‌شود که اعتماد بیشتری به خروجی‌های هوش مصنوعی دارند یا آشنایی کمتری با این فناوری دارند. یافته‌های مطالعه نشان می‌دهد افراد ممکن است فارغ از اینکه تصور کنند خلاصه مورد استفاده توسط یک سامانه هوش مصنوعی یا یک انسان تهیه شده است، تحت تأثیر اطلاعات نادرست موجود در آن قرار بگیرند.
«ماتیا سیم»، سرپرست این پژوهش، با اشاره به اهمیت این موضوع گفت: «هوش مصنوعی، روشی نوین برای انتشار اطلاعات نادرست است و این پتانسیل را دارد که در ذهن خوانندگان آن اطلاعات، خاطرات کاذب ایجاد کند.»
وی همچنین بر ضرورت بررسی دقیق نحوه استفاده از هوش مصنوعی برای خلاصه‌سازی تأکید کرد و افزود: «به گمانم باید بسیار عمیق و نقادانه بیندیشیم که آیا هوش مصنوعی باید برای خلاصه‌سازی اطلاعات به کار گرفته شود یا خیر و اگر پاسخ مثبت است، این کار چگونه باید انجام بگیرد؛ به‌ویژه در موقعیت‌هایی که پیامدهای بسیار مهم و حساسی دارند.»
نتایج این پژوهش در شرایطی مطرح شده است که خلاصه‌سازی خودکار به یکی از کاربردهای رایج ابزارهای هوش مصنوعی تبدیل شده است. از آنجا که این خلاصه‌ها ممکن است برای دریافت سریع اطلاعات مورد استفاده قرار گیرند، حذف جزئیات مهم یا ورود اطلاعات نادرست می‌تواند بر نحوه درک مخاطب از محتوای اصلی اثرگذار باشد.
این موضوع به‌ویژه در مواردی که خلاصه‌سازی به اطلاعات حساس یا رویدادهای مهم مربوط می‌شود، اهمیت بیشتری پیدا می‌کند و یافته‌های مطالعه، ضرورت بررسی دقیق‌تر میزان صحت و قابلیت اتکای خلاصه‌های تولیدشده توسط هوش مصنوعی را مورد توجه قرار می‌دهد.
انتهای پیام