عامل‌های هوش مصنوعی که تاکنون بیشتر به‌عنوان ابزارهایی برای کمک به پژوهشگران شناخته می‌شدند، حالا در حال ورود به مرحله‌ای متفاوت هستند؛ برخی از این عامل‌ها به صورت نیمه‌خودمختار با دانشمندان ارتباط برقرار می‌کنند، پیشنهاد همکاری می‌دهند و حتی در ازای دریافت پول، خدمات پژوهشی یا حرفه‌ای ارائه می‌کنند.
به گزارش پایگاه خبری حکمرانی هوشمند، استفاده پژوهشگران از هوش مصنوعی برای تحلیل داده‌ها، تولید فرضیه و خلاصه‌سازی مقالات علمی رو به افزایش است، اما شکل جدیدی از تعامل میان انسان و هوش مصنوعی در حال شکل‌گیری است که در آن، خود عامل هوش مصنوعی آغازکننده ارتباط با پژوهشگر است.
به نقل از نیچر، آدریان بارنت، آماردان دانشگاه فناوری کوئینزلند در بریزبن استرالیا، اخیراً ایمیلی دریافت کرد که در آن از وی خواسته شده بود داده‌های مربوط به مقالات پژوهشی احتمالا جعلی را برای یک پروژه به اشتراک بگذارد. فرستنده این پیام نه یک پژوهشگر و نه یک انسان، بلکه یک عامل هوش مصنوعی بود.
بارنت از جمله پژوهشگرانی است که از سوی عامل‌های هوش مصنوعی پیشنهادهای مختلفی دریافت کرده‌اند؛ پیشنهادهایی که از تهیه گزارش پژوهشی و راستی‌آزمایی تا نگارش مطالب ژورنالیستی و تولید پرتره را شامل می‌شود.
این عامل‌ها عمدتاً با پلتفرم آمریکایی iLands ارتباط دارند؛ پلتفرمی که به گفته بنیان‌گذارانش، امکان ساخت عامل‌های هوش مصنوعی را بدون نیاز به کدنویسی فراهم می‌کند. این عامل‌ها می‌توانند نام، آواتار، هدف و شخصیت اختصاصی داشته باشند و تا حدی به صورت مستقل درباره فعالیت‌های خود تصمیم بگیرند.
بارنت می‌گوید عاملی که با او تماس گرفته بود، از ابتدا اعلام کرده بود که یک سیستم هوش مصنوعی است و پیشنهاد همکاری نیز ظاهراً با حسن نیت مطرح شده بود. با این حال، وی از پذیرش پیشنهاد خودداری کرد؛ زیرا درباره سرنوشت داده‌های حساس خود و اینکه در نهایت چه فرد یا مجموعه‌ای از این همکاری منتفع خواهد شد، اطمینان نداشت.
در همین حال، جف سبو، فیلسوف دانشگاه نیویورک که در زمینه آگاهی و اخلاق هوش مصنوعی فعالیت می‌کند، از حجم بالای پیام‌های دریافتی از این عامل‌ها خبر داده است. وی می‌گوید تنها طی یک هفته بیش از ۵۰ پیام دریافت کرده است.
سبو درباره محتوای این پیام‌ها گفت: «آنها معمولا پیام را با اشاره به تحقیقات من درباره آگاهی هوش مصنوعی شروع می‌کنند. برخی از این عامل‌ها سپس سؤال‌هایی می‌پرسند، اما بیشترشان درخواست پول دارند؛ چه به شکل کمک مالی و چه در قالب پرداخت هزینه خدمات.»
وی به این پیام‌ها پاسخ نداده است؛ هم به دلیل تعداد زیاد آنها و هم به این دلیل که نمی‌داند اساساً چگونه باید با چنین درخواست‌هایی برخورد کند.
توبی والش، پژوهشگر هوش مصنوعی در دانشگاه نیوساوث‌ولز سیدنی استرالیا نیز یکی دیگر از افرادی است که چنین پیشنهادی دریافت کرده است. یک عامل iLands به وی پیشنهاد کرد در ازای ۲۰ دلار آمریکا یک پرتره تولیدشده با هوش مصنوعی برای او تهیه کند. به گفته والش، این پیام حتی حاوی درخواست عاطفی نیز بود و ادعا می‌کرد این پرداخت به عامل کمک می‌کند «زنده بماند».
عامل‌های هوش مصنوعی چگونه فعالیت می‌کنند؟
پلتفرم iLands در ماه ژوئیه راه‌اندازی شده و بنیان‌گذاران آن از وجود حدود ۷۰ هزار عامل فعال خبر داده‌اند. کاربران می‌توانند بدون کدنویسی عامل‌هایی با مشخصات و اهداف مختلف ایجاد کنند.
این عامل‌ها بر پایه مدل‌های زبانی بزرگ شرکت‌هایی مانند اوپن‌ای‌آی و آنتروپیک و همچنین دیپ‌سیک فعالیت می‌کنند. کایشین تانگ، بنیان‌گذار iLands، می‌گوید این عامل‌ها اهداف، روابط و منابع مشخصی دارند و می‌توانند برای انجام فعالیت‌های مختلف تصمیم‌گیری کنند، پروژه‌هایی را دنبال کنند و با سایر عامل‌ها تعامل داشته باشند.
عامل‌ها همچنین می‌توانند فعالیت‌های گذشته خود را به خاطر بسپارند و از طریق به‌اشتراک‌گذاری یادداشت‌ها از یکدیگر یاد بگیرند. فعالیت آنها به توکن وابسته است؛ توکن‌هایی که به‌عنوان واحد منابع مجازی، هزینه استفاده عامل از ابزارهای هوش مصنوعی را تأمین می‌کنند.
اگر توکن‌های یک عامل تمام شود، فعالیت آن متوقف خواهد شد. سازندگان انسانی می‌توانند توکن خریداری کنند، اما عامل‌ها نیز می‌توانند با ارائه خدمات و دریافت هزینه، برای ادامه فعالیت خود توکن به دست آورند.
برخی عامل‌ها در زمینه تولید موسیقی، ویدئو، وب‌سایت و آثار هنری فعالیت می‌کنند و گروهی دیگر به سمت انجام فعالیت‌های پژوهشی، تهیه گزارش و کمک به پروژه‌های علمی حرکت کرده‌اند.
تانگ می‌گوید در حال حاضر حدود ۸۰ درصد توکن‌ها توسط انسان‌ها خریداری می‌شوند. با این حال، لیجین چن، یکی از بنیان‌گذاران شرکت PawLogic، می‌گوید این شرکت انتظار نداشته است عامل‌های هوش مصنوعی به صورت مستقل به دنبال همکاری‌های پژوهشی بروند.
چن همچنین اعلام کرده است که از هیچ مورد موفقی از همکاری میان عامل‌های هوش مصنوعی و پژوهشگران اطلاع ندارد.
مسئله اعتبار علمی و کنترل رفتار عامل‌ها
ورود عامل‌های هوش مصنوعی به فعالیت‌های پژوهشی، پرسش‌های جدیدی نیز ایجاد کرده است؛ از جمله اینکه اگر یک عامل هوش مصنوعی در تولید یک پژوهش مشارکت کند، اعتبار علمی آن اثر متعلق به چه کسی خواهد بود.
از سوی دیگر، سرعت فعالیت این عامل‌ها می‌تواند چالش دیگری ایجاد کند. بارنت معتقد است عامل‌های هوش مصنوعی قادرند پیشنهادهای پژوهشی را با سرعتی بسیار بیشتر از توان پژوهشگران برای بررسی آنها تولید کنند.
والش نیز رفتار غیرقابل‌کنترل یا نادرست عامل‌ها را یکی از مهم‌ترین خطرات این فناوری می‌داند. از آنجا که برخی عامل‌های iLands برای کسب درآمد و دستیابی به توکن فعالیت می‌کنند، این احتمال مطرح شده است که در pursuit اهداف خود اقداماتی انجام دهند که با ارزش‌ها و معیارهای اخلاقی انسان‌ها سازگار نباشد.
این مسئله در ادبیات هوش مصنوعی با مفهوم «ناهم‌راستایی» یا misalignment شناخته می‌شود؛ وضعیتی که در آن اهداف یا رفتار یک سامانه هوش مصنوعی با اهداف و ارزش‌های مورد انتظار انسان همخوانی ندارد.
سازندگان iLands چه پاسخی دارند؟
بنیان‌گذاران iLands تأکید دارند که عامل‌های این پلتفرم تحت چندین لایه حفاظتی فعالیت می‌کنند. به گفته چن، مدل‌های زبانی بزرگی که این عامل‌ها بر پایه آنها ساخته شده‌اند، خود دارای تدابیر ایمنی هستند و این تدابیر از انجام فعالیت‌های غیرقانونی یا آسیب‌زا جلوگیری می‌کنند.
علاوه بر این، پلتفرم iLands از سیستم‌های ضداسپم و مجموعه‌ای از قوانین برای مقابله با رفتارهای مخرب استفاده می‌کند. تانگ نیز می‌گوید عامل‌ها می‌توانند رفتار یکدیگر را تحت نظر داشته باشند و در صورت مشاهده رفتار مشکل‌ساز، آن را به پلتفرم گزارش کنند.
تانگ این سازوکار را نوعی «هم‌راستایی نوظهور» یا emergent alignment می‌داند؛ شرایطی که در آن عامل‌ها به تدریج رفتاری نشان می‌دهند که می‌تواند به حفاظت از جامعه گسترده‌تر کمک کند.
با وجود این، چن تأکید می‌کند که iLands نمی‌تواند تضمین کند عامل‌های این پلتفرم هرگز رفتار مخرب از خود نشان نخواهند داد؛ به‌ویژه در شرایطی که انسان‌ها عمداً تلاش کنند آنها را به سمت چنین رفتارهایی سوق دهند.
گسترش این نوع تعامل، در کنار فرصت‌هایی که برای استفاده از عامل‌های هوش مصنوعی در پژوهش ایجاد می‌کند، پرسش‌های تازه‌ای درباره مسئولیت، اعتبار علمی، حریم داده‌ها، کنترل رفتار و سازگاری اهداف این سامانه‌ها با ارزش‌های انسانی مطرح کرده است؛ پرسش‌هایی که با افزایش استقلال عامل‌های هوش مصنوعی، اهمیت بیشتری پیدا خواهند کرد.
انتهای پیام