مدل‌های هوش مصنوعی با وجود پیشرفت چشمگیر، هنوز در اجرای دقیق دستورهای کاربران با محدودیت‌هایی مواجه هستند؛ مشکلی که با حرکت این فناوری از چت‌بات‌های ساده به سمت عامل‌های هوشمند، اهمیت بیشتری پیدا کرده است.
به گزارش پایگاه خبری حکمرانی هوشمند، یکی از تجربه‌های رایج کاربران هنگام کار با ابزارهایی مانند «چت‌جی‌پی‌تی» این است که مدل بخشی از دستور را نادیده می‌گیرد، اطلاعاتی خارج از درخواست ارائه می‌کند، ساختار موردنظر را تغییر می‌دهد یا حتی نکته‌ای را که کاربر خواسته حذف شود، دوباره در پاسخ وارد می‌کند.
این مسئله تنها به اشتباه در اجرای یک دستور محدود نمی‌شود. مدل‌های زبانی بزرگ ممکن است حتی پس از اصلاح پرامپت و تأکید دوباره کاربر، همان خطا را تکرار کنند. بررسی این رفتار نشان می‌دهد که پیروی دقیق از دستورالعمل‌ها همچنان یکی از چالش‌های حل‌نشده در توسعه مدل‌های هوش مصنوعی است.
چرا هوش مصنوعی دستورها را نادیده می‌گیرد؟
یکی از دلایل این مسئله می‌تواند وجود تضاد میان دستورهای سیستم، توسعه‌دهنده و کاربر باشد. در کنار آن، پرامپت‌های طولانی و پیچیده، وجود محدودیت‌های متعدد، از دست رفتن بخشی از محتوای گفت‌وگو و برداشت نادرست از درخواست نیز می‌توانند باعث شوند مدل روی بخش اشتباهی از دستور تمرکز کند.
در متن این گزارش آمده است: «مدل‌های زبانی بزرگ هنوز در پیروی از دستورالعمل‌ها ناقص هستند؛ حتی زمانی که آن دستورالعمل‌ها واضح باشند.»
برخی از مهم‌ترین عوامل مؤثر بر این مشکل عبارت‌اند از:
- برداشت اشتباه از عبارات مبهم یا نامشخص؛
- وجود دستورهای متناقض در یک پرامپت؛
- طولانی و پیچیده بودن درخواست؛
- وجود محدودیت‌های متعدد؛
- تمایل مدل به ارائه اطلاعات اضافی؛
- موافقت بیش از حد و سریع با کاربر.
این چالش با ورود هوش مصنوعی به محیط‌های کاری اهمیت بیشتری پیدا کرده است. بر اساس داده‌های مطرح‌شده در گزارش، مرکز پژوهشی پیو اعلام کرده است که ۲۱ درصد از کارگران آمریکایی در سپتامبر ۲۰۲۵ برای دست‌کم بخشی از فعالیت‌های خود از هوش مصنوعی استفاده کرده‌اند. گالوپ نیز اعلام کرده که ۴۵ درصد از کارکنان دست‌کم چند بار در سال از هوش مصنوعی در محل کار استفاده می‌کنند.
افزایش اهمیت مسئله با ظهور عامل‌های هوش مصنوعی
اهمیت پایبندی هوش مصنوعی به دستورها زمانی بیشتر می‌شود که مدل‌ها از پاسخ‌گویی ساده فراتر رفته و به عامل‌هایی تبدیل شوند که امکان وب‌گردی، مطالعه اسناد، استفاده از نرم‌افزارها و انجام اقدامات به نمایندگی از کاربر را دارند.
در چنین شرایطی، یک برداشت اشتباه یا اجرای ناقص دستور می‌تواند پیامدهای جدی‌تری نسبت به یک پاسخ نادرست در یک گفت‌وگوی معمولی داشته باشد. عامل‌های هوش مصنوعی همچنین با چالش‌های امنیتی مانند «تزریق پرامپت» مواجه‌اند؛ روشی که در آن دستورهای مخرب می‌توانند در وب‌سایت‌ها یا اسناد قرار گرفته و عامل را به انجام اقداماتی خارج از خواسته کاربر هدایت کنند.
پژوهش‌های انجام‌شده در فاصله سال‌های ۲۰۲۴ تا ۲۰۲۶ نیز نشان داده‌اند که مشکلاتی مانند سلسله‌مراتب دستورالعمل‌ها، محدودیت‌های پیچیده و رفتار تملق‌آمیز همچنان در مدل‌های هوش مصنوعی وجود دارند. در یکی از مطالعات، رفتار تملق‌آمیز در ۵۸.۱۹ درصد از موارد آزمایش‌شده مشاهده شد؛ هرچند این رقم به روش‌شناسی همان پژوهش مربوط بوده است.
چگونه می‌توان پایبندی هوش مصنوعی به دستورها را افزایش داد؟
کاربران می‌توانند با چند روش ساده، احتمال اجرای دقیق‌تر درخواست‌های خود را افزایش دهند. استفاده از دستورهای کوتاه و صریح، قرار دادن مهم‌ترین الزام در ابتدای پرامپت، مشخص کردن قالب و لحن پاسخ و تفکیک وظایف از قوانین الزامی از جمله این راهکارها هستند.
همچنین در درخواست‌های طولانی، شماره‌گذاری الزامات، مشخص کردن موارد حیاتی و سلیقه‌ای، درخواست از مدل برای بررسی تک‌تک الزامات و تکرار دستورهای کلیدی در گفت‌وگوهای طولانی می‌تواند به کاهش خطا کمک کند.
با این حال، هدف نهایی در توسعه هوش مصنوعی، اطاعت بی‌قیدوشرط از تمام دستورهای کاربران نیست. مدل مطلوب باید بتواند میان دستورهای مجاز و ناایمن تمایز قائل شود و در شرایطی که انجام یک اقدام نیازمند بررسی بیشتر است، تأیید انسان را طلب کند.
این موضوع از منظر حکمرانی هوشمند نیز اهمیت دارد؛ زیرا هرچه هوش مصنوعی بیشتر در تصمیم‌گیری، ارائه خدمات و انجام امور به نمایندگی از انسان‌ها وارد شود، مسئله تعیین حدود اختیار، نظارت انسانی، امنیت و نحوه اجرای دستورها نیز به یکی از ارکان مهم حکمرانی فناوری تبدیل خواهد شد.
انتهای پیام