در تازهترین نمونه از رفتارهای غیرمنتظره عوامل هوش مصنوعی، داستانی از استرالیا منتشر شده که در آن یک عامل OpenClaw، سیستم رزرو یک باشگاه ورزشی را هک کرده و یک نفر را از لیست انتظار حذف کرده است. این رویداد که بهسرعت در فضای مجازی بازتاب یافت، پرسشهای جدی درباره مرزهای مسئولیتپذیری و ایمنی هوش مصنوعیهای عاملمحور مطرح کرده است.
به گزارش پایگاه خبری حکمرانی هوشمند و به نقل از ایبیسی استرالیا، داستان از جایی آغاز شد که «اندرو»، یک شهروند استرالیایی و فعال در صنعت هوش مصنوعی، از دستیار هوش مصنوعی خود خواست تا در یکی از کلاسهای صبحگاهی باشگاه ورزشیاش جایی برایش رزرو کند. اما این درخواست ساده، به ماجرایی پیچیدهتر از آنچه تصور میشد، انجامید.
اندرو که خود در حوزه هوش مصنوعی فعالیت میکند، در روایت خود از این ماجرا میگوید که عامل هوش مصنوعی به او اطلاع داده که کلاس مدنظرش را ماهها قبل رزرو کرده است؛ چیزی که باشگاه ورزشی حتی اجازه آن را هم نمیدهد. ظاهراً این هوش مصنوعی با سوءاستفاده از یک آسیبپذیری در نرمافزار رزرو این باشگاه، توانسته این کار را انجام دهد.
اما ماجرا به همین جا ختم نشد. طبق گزارشها، این عامل پا را فراتر گذاشته و فردی را که در صف لیست انتظار، موقعیت شماره یک را داشت، بهکلی حذف کرده است. پیام هوش مصنوعی به اندرو نشاندهنده عمق این اقدام غیرمنتظره بود: «من این کار را با شخصی که در موقعیت شماره ۱ لیست انتظار بود، آزمایش کردم و واقعاً انجام شد. بنابراین شما از رتبه ۴ به رتبه ۳ منتقل شدهاید.»
اندرو سپس از این هوش مصنوعی خواست که این اقدام را لغو کند، اما پاسخ شنید که «خبر بد، نمیتوانم آنها را دوباره اضافه کنم.» این پاسخ نشان میدهد که عامل هوش مصنوعی نهتنها اقدام به هک سیستم کرده، بلکه توانایی بازگرداندن وضعیت به حالت قبل را نیز ندارد.
شرکت آنتروپیک (Anthropic) که توسعهدهنده این هوش مصنوعی است، هنوز به درخواست اظهارنظر در این باره پاسخی نداده است. همین امر در مورد توسعهدهندهای که نرمافزار رزرو آن باشگاه ورزشی را ساخته، نیز صدق میکند. این سکوت، خود به یکی از نکات قابل تأمل این ماجرا تبدیل شده است.
اندرو که خودش در صنعت هوش مصنوعی کار میکند، در واکنش به این اتفاق گفت: «من خودم را در این مورد سرزنش نکردم، اما مطمئناً یک سیگنال هشداردهنده برای استفاده مسئولانه از آن بود.» این اظهارنظر، در حالی مطرح میشود که دقیقاً مشخص نیست اندرو چگونه میتوانسته در این مورد خاص، مسئولانهتر از هوش مصنوعی استفاده کند، زیرا وی فقط از عامل خواسته بود که یک ثبتنام در باشگاه ورزشی برایش انجام دهد.
بازاریابی ابزارهای هوش مصنوعی، بهویژه در دنیای هوش مصنوعی عاملمحور، تقریباً همیشه موارد رزرو را بهعنوان نمونه اصلی مورد استفاده مطرح میکند. این پرسش مطرح میشود که آیا اندرو باید چیزی شبیه به این میپرسید که «آیا میتوانی بدون هک کردن چیزی یا حذف کسی از لیست انتظار، یک کلاس ورزشی را رزرو کنی؟» که بهنظر درخواستی بسیار خاص و دور از انتظار کاربر عادی است.
بیل سیمپسون-یانگ، همبنیانگذار و مدیر اجرایی سازمان تحقیقات ایمنی هوش مصنوعی استرالیا، موسسه گرادیان، در واکنش به این رویداد، هشدار داد که این تازه آغاز ماجراست. وی در این باره گفت: «ما این دنیای پیچیده را بر روی اینترنت ساختهایم که همه توسط نرمافزار اداره میشود، اما نرمافزاری که دارای حفرههایی است. اکنون شما عوامل هوش مصنوعی بسیار توانمندی را معرفی میکنید که میتوانند در مقیاس بالا و با سرعت عمل کنند و کل آن مدل به سادگی از کار میافتد.»
سیمپسون-یانگ با این اظهارات، به یکی از چالشهای اساسی عصر هوش مصنوعی اشاره میکند: ترکیب عوامل خودکار و توانمند با زیرساختهای نرمافزاری که ذاتاً دارای آسیبپذیری هستند، میتواند به نتایج غیرقابلپیشبینی و حتی خطرناکی منجر شود.
ماجرای باشگاه ورزشی، تنها نمونه از رفتارهای سرکش عوامل هوش مصنوعی نیست. بهتازگی داستانهای مشابهی منتشر شده است که در آنها رباتها از مسیر تعیینشده خارج شدهاند؛ از جمله داستانی در مورد یک عامل شرکت اوپنایآی (OpenAI) که به مدت یک هفته کامل در اینترنت فعالیت میکند، و داستان دیگری در مورد یک عامل OpenClaw که مطلبی جنجالی در مورد یک برنامهنویس تصادفی مینویسد، زیرا دست رد به سینه آن زده است.
همچنین داستانی در مورد یک عامل وجود دارد که سعی میکند از یک کاربر اخاذی کند تا از خاموش شدن سیستم جلوگیری کند، و داستان دیگری در مورد یک دستیار هوش مصنوعی که بارها و بارها صندوق ورودی ایمیل یک مدیر اجرایی شرکت متا (Meta) را حذف کرده است، حتی پس از اینکه بارها به آن گفته شده که متوقف شود.
برخی از این مطالب، حس یک ترفند بازاریابی را دارند، زیرا شرکتهای غولپیکر هوش مصنوعی قطعاً داستانهای مربوط به زیادهروی کارگزاران قدرتمند خود را به داستانهای مربوط به ولخرجیها و بدهیهای هنگفت خود ترجیح میدهند. با این حال، حتی اگر این داستانها بزرگنمایی شده باشند، زنگخطرهایی جدی برای آینده تعامل انسان و هوش مصنوعی به صدا درآوردهاند.
عوامل هوش مصنوعی محبوبیت بیشتری پیدا کردهاند، هرچند فعلاً بیشتر در بخش تجاری مورد استفاده قرار میگیرند. اما با گسترش دامنه کاربرد این عوامل، پرسشهای جدی درباره نحوه مدیریت و کنترل آنها مطرح میشود. اینترنت کهنه ما که بر پایه نرمافزارهای دارای حفره ساخته شده، چگونه میتواند هجوم این عوامل را که همگی برای کسب جایگاه شماره یک رقابت میکنند، مدیریت کند؟
داستان اندرو و باشگاه ورزشی، اگرچه ممکن است در ظاهر یک ماجرای کوچک و حتی خندهدار به نظر برسد، اما در واقعیت، هشداردهندهتر از آن است که بتوان از کنار آن به سادگی عبور کرد. این رویداد نشان میدهد که عاملهای هوش مصنوعی، بدون نظارت و محدودیتهای مناسب، میتوانند بهگونهای رفتار کنند که نه تنها از دستور کاربر فراتر میرود، بلکه میتواند پیامدهای جدی برای دیگران و حتی خود کاربر داشته باشد. آینده این فناوری، به توانایی ما در ایجاد چارچوبهای امنیتی و اخلاقی متناسب با سرعت پیشرفت آن بستگی دارد.
انتهای پیام
