هوش مصنوعی (AI) با وجود پیشرفتهای چشمگیر، با چالشهای جدی در حوزه اخلاق روبرو شده است. محسن کاهانی، عضو هیئت علمی دانشگاه فردوسی مشهد، ، به یکی از مهمترین این چالشها یعنی «منبعشناسی و اصالت محتوا» اشاره کرد و هشدار داد که تشخیص منبع اصلی و اعتبار محتوای تولیدشده توسط AI بسیار دشوار است.
به گزارش پایگاه خبری حکمرانی هوشمند، عضو هیئت علمی دانشگاه فردوسی مشهد گفت: هوش مصنوعی در حوزه اخلاق با چالشهای جدی روبرو شده است؛ یکی از مهمترین این چالشها، موضوع منبعشناسی، ارجاع و اصالت محتوا است.
یکی از نگرانیهای اصلی، امکان انتشار اطلاعات نادرست یا سرقت ادبی است. کاهانی با اشاره به مواردی در مسابقات عکاسی، توضیح داد که آثار تولیدشده توسط هوش مصنوعی گاهی با آثار انسانی اشتباه گرفته شده و حتی برنده جوایز شدهاند. این موضوع بحثهای اخلاقی فراوانی را به همراه داشته است.
محسن کاهانی اظهار کرد: وقتی متنی توسط هوش مصنوعی تولید میشود، تشخیص منبع اصلی و اعتبار آن دشوار میگردد، این امر میتواند منجر به انتشار اطلاعات نادرست یا سرقت ادبی شود. برای مثال در مسابقات عکساری، مواردی پیش آمده که آثار تولیدشده توسط هوش مصنوعی، با آثار انسانی اشتباه گرفته شده و حتی برنده جوایز شدهاند که این خود بحثهای اخلاقی فراوانی را به همراه داشته است.»
یک چالش دیگر، تفاوت معیارهای اخلاقی در فرهنگهای مختلف است. آنچه در یک فرهنگ قابل قبول باشد، ممکن است در فرهنگ دیگر پذیرفته نباشد. این پیچیدگیها، تدوین قوانین اخلاقی فراگیر را دشوار میسازد. همچنین، ارجاع به منابع در یادگیریهای سنتی، مانند آموختههای دوران تحصیل یا خانواده، اغلب دشوار یا غیرممکن است. هوش مصنوعی نیز با همین چالش مواجه است؛ در بسیاری از موارد، نمیتوان منبع دقیق هر بخش از اطلاعات تولیدی را مشخص کرد که این خود بحثهای اخلاقی و حقوقی مهمی را به دنبال دارد.
وی ادامه داد: علاوه بر اینها، آنچه در یک فرهنگ ممکن است از نظر اخلاقی قابل قبول باشد، در فرهنگ دیگر ممکن است پذیرفته نباشد. این پیچیدگیها، تدوین قوانین اخلاقی فراگیر را دشوار میسازد. همچنین، ارجاع به منابع در یادگیریهای سنتی، مانند آموختههای دوران تحصیل یا خانواده، اغلب دشوار یا غیرممکن است. هوش مصنوعی نیز با همین چالش مواجه است؛ در بسیاری از موارد، نمیتوان منبع دقیق هر بخش از اطلاعات تولیدی را مشخص کرد که این خود بحثهای اخلاقی و حقوقی مهمی را به دنبال دارد.
کاهانی تأکید کرد که هوش مصنوعی تنها به «پاسخدادن» به یک ایده محدود نمیشود، بلکه محتوا وارد اکوسیستم ما میشود و بحث تعامل و جهتدهی پیش میآید. یک سیستم ممکن است ادعا کند خنثی و بدون موضع است، اما واقعیت این است که جوامع و افراد با شرایط متفاوت از آن استفاده میکنند و همین باعث میشود نتیجهها یکسان و بیطرف نباشد.
این مدرس دانشگاه با بیان اینکه این موضوع تنها به منزله «پاسخدادن» به یک ایده نیست و عملاُ محتوا وارد اکوسیستم ما میشود، تاکید کرد: از همان لحظه، بحث تعامل و جهتدهی پیش میآید. یک سیستم ممکن است ادعا کند خنثی و بدون موضع است و فقط بر اساس داده تصمیم میگیرد اما واقعیت این است که جوامع و افراد با شرایط متفاوت از آن استفاده میکنند و همین باعث میشود نتیجهها یکسان و بیطرف نباشد.
وی با اشاره به تفاوت معیارهای اخلاقی در کشورهای مختلف، توضیح داد که همیشه برای اخلاق یک معیار واحد مطلق وجود ندارد. فرض کنید یک خبرنگار یا تولیدکننده محتوا در یک کشور دیگر باشد و بخواهد شخصیتی خاص بسازد یا روایت را به سمت دیگری ببرد، اینجا در عمل با دادههایی روبهرو هستیم که در همان محیط، آموزش دیدهاند و بنابراین مدل، خودبهخود بخشی از همان فضا و جهتگیری را حمل میکند حتی اگر آن را بیتفاوتی، توصیف کنند؛ به همین دلیل، بحث اخلاقی ماجرا اینجا جدی میشود.
وی با اشاره به اینکه «اخلاق» در کشورهای مختلف متفاوت است و همیشه برای آن یک معیار واحدِ مطلق وجود ندارد، توضیح داد: فرض کنید یک خبرنگار یا تولیدکننده محتوا در یک کشور دیگر باشد و بخواهد شخصیتی خاص بسازد یا روایت را به سمت دیگری ببرد، اینجا در عمل با دادههایی روبهرو هستیم که در همان محیط، آموزش دیدهاند و بنابراین مدل، خودبهخود بخشی از همان فضا و جهتگیری را حمل میکند حتی اگر آن را بیتفاوتی، توصیف کنند؛ به همین دلیل، بحث اخلاقی ماجرا اینجا جدی میشود.»
کاهانی افزود که خیلی وقتها تکنولوژی، زبان و ابزارهای مشترک میسازد و بهصورت نرم، بعضی فرهنگها یا خردهفرهنگها را حذف میکند. همان اتفاقی که در گسترش زبان انگلیسی افتاد یعنی همهچیز به یک الگوی واحد نزدیک میشود. در حوزه اخلاق هم اگر چهارچوب یکدست شود، ممکن است نتیجه این باشد که هرچه «هوش مصنوعی گفت» درست تلقی شود و کسی کمتر بگوید «این غلط است». این نگرانیها باعث میشود نیاز به فکر جدی و تدوین قوانین احساس شود؛ اما این کار ساده نیست.
کاهانی افزود: خیلی وقتها تکنولوژی، زبان و ابزارهای مشترک میسازد و بهصورت نرم، بعضی فرهنگها یا خردهفرهنگها را حذف میکند. همان اتفاقی که در گسترش زبان انگلیسی افتاد یعنی همهچیز به یک الگوی واحد نزدیک میشود. در حوزه اخلاق هم اگر چهارچوب یکدست شود، ممکن است نتیجه این باشد که هرچه «هوش مصنوعی گفت» درست تلقی شود و کسی کمتر بگوید «این غلط است». این نگرانیها باعث میشود نیاز به فکر جدی و تدوین قوانین احساس شود؛ اما این کار ساده نیست.»
این گزارش نشان میدهد که با استفاده از حکمرانی هوشمند و تدوین قوانین اخلاقی دقیق، میتوان از چالشهای اخلاقی هوش مصنوعی جلوگیری کرد و از تأثیرات منفی آن بر فرهنگ و جامعه جلوگیری کرد.
انتهای پیام
