بررسیهای کارشناسی نشان میدهد که در نگارش بخشهایی از جدیدترین رساله «پاپ لئون چهاردهم» با عنوان «شکوه انسان» (Magnifica Humanitas) که درباره خطرات هوش مصنوعی است، احتمالاً از خودِ هوش مصنوعی کمک گرفته شده است. این موضوع، تضادی عجیب و شاید کنایهآمیز را در تاریخ اخلاق دیجیتال رقم زده است.
به گزارش پایگاه خبری حکمرانی هوشمند، لینچ ژانگ (Linch Zhang) در انجمن LessWrong با استفاده از ابزار تشخیص محتواهای هوش مصنوعی به نام Pangram، الگوهای مشخصی را در متن رساله شناسایی کرد. این ابزار نشان میدهد که بین ۴۰ تا ۱۰۰ درصد از برخی پاراگرافها توسط هوش مصنوعی نوشته شدهاند.
بر اساس تحلیل کارشناسی به نام «لینچ ژانگ» (Linch Zhang) در انجمن LessWrong، یک ابزار محبوب تشخیص محتواهای هوش مصنوعی به نام Pangram، نشان میدهد که بین ۴۰ تا ۱۰۰ درصد از برخی پاراگرافهای رساله جدید پاپ با نام «شکوه انسان» (Magnifica Humanitas) توسط هوش مصنوعی نوشته شده است.
یکی از نشانههای کلیدی، استفاده مکرر از کلمه «genuinely» (واقعاً یا اصالتاً) است که به عنوان امضای متنی چتبات Claude شناخته میشود.
به گفته ژانگ، در این رساله ویژگیها و الگوهای شناختهشدهای وجود دارد که معمولاً در متون تولیدشده توسط هوش مصنوعی دیده میشوند. به عنوان مثال، استفاده از کلمه «genuinely» به معنای واقعاً یا اصالتاً در این رساله بسیار بیشتر از رسالههای قبلی پاپ است؛ این کلمه به عنوان یکی از کلمات پرتکرار و امضاهای متنی چتبات Claude متعلق به شرکت آنتروپیک شناخته میشود.
بررسیهای مستقل دیگر نیز این ادعا را تقویت میکنند. وقتی وبسایت ورج (The Verge) حدود ۲۰۰۰ کلمه از سند را آزمایش کرد، ابزار Pangram تخمین زد که ۴۶ درصد از آن توسط هوش مصنوعی نوشته شده است.
بررسیهای دیگر نیز این ادعا را تقویت میکنند؛ شخص دیگری متن این سند را بخش به بخش در ابزار Pangram بررسی کرد و دریافت که ۶۲ درصد از فصل اول آن به عنوان متن «تولیدشده توسط هوش مصنوعی» علامتگذاری شده است. زمانی که وبسایت ورج نیز حدود ۲۰۰۰ کلمه از این سند را در Pangram آزمایش کرد، این ابزار تخمین زد که ۴۶ درصد از آن توسط هوش مصنوعی نوشته شده است.
با این حال، ابزارها بینقص نیستند. ژانگ خاطرنشان کرد که بخشهایی از رساله کاملاً توسط انسان نوشته شدهاند و بررسی رسالههای قبلی پاپ، نتیجه ۱۰۰ درصد انسانی را نشان داد.
با وجود این آمارها، بخشهای دیگری از این رساله کاملاً توسط انسان نوشته شدهاند. ژانگ خاطرنشان میکند که Pangram برخی از بخشها را به عنوان «صفر درصد هوش مصنوعی» دستهبندی کرده است. برای مقایسه و اثبات دقت این ابزار، ۲۰ پاراگراف اول از چهار رساله قبلی پاپ در Pangram بررسی شدند که نتیجه آن نشان میداد توسط انسان نوشته شدهاند.»
نکته بسیار جالب اینجاست که پاپ لئون چهاردهم این رساله را در کنار «کریستوفر اولا»، یکی از بنیانگذاران شرکت آنتروپیک (سازنده Claude) ارائه کرده است. این همافزایی، پیامی پیچیده درباره آینده اخلاق و فناوری ارسال میکند.
درکل هدف انتشار رسالههای پاپ انتقال آموزشهایی برای مقابله با چالشهای مهم اخلاقی و اجتماعیِ زمانه است. رساله اخیر، اولین رساله پاپ لئون چهاردهم محسوب میشود . همچنین این اولینباری است که رساله پاپ مستقیماً بر هوش مصنوعی و تاثیرات گسترده آن تمرکز میکند. نکته بسیار جالب و شاید کنایهآمیز ماجرا اینجاست که پاپ لئون این رساله را در کنار «کریستوفر اولا»، یکی از بنیانگذاران شرکت آنتروپیک، ارائه کرده است.
انتهای پیام