به گزارش پایگاه خبری حکمرانی هوشمند، به نقل از مجله نیچر، در فاصله پنج هفته، دست‌کم دو مورد از سوی پژوهشگران مطرح شده است که در آن‌ها دانشمندان پس از مدت‌ها تحقیق درباره یک پرسش علمی، متوجه شده‌اند شرکت‌های هوش مصنوعی نتایج مرتبطی را پیش از انتشار یافته‌های آن‌ها اعلام کرده‌اند. این اتفاق‌ها باعث شده است برخی پژوهشگران درباره بارگذاری اطلاعات منتشرنشده در ابزارهای هوش مصنوعی تجدیدنظر کنند و محدودیت‌های بیشتری برای استفاده از این سامانه‌ها در نظر بگیرند.
هم‌زمانی کشفیات علمی و نگرانی درباره محرمانگی داده‌ها
یکی از نمونه‌های مطرح‌شده به مسئله ناویه–استوکس در حوزه دینامیک سیالات مربوط است. تریستان باک‌مستر، ریاضی‌دان دانشگاه نیویورک، هفتم سپتامبر اعلام کرد که به همراه لِوِنت آلپوگه، ریاضی‌دان شرکت آنتروپیک، روی این مسئله کار کرده و به پیشرفتی در حل نسخه ساده‌تری از آن رسیده است. یک روز بعد، شرکت اوپن‌ای‌آی اعلام کرد که عامل‌های هوش مصنوعی این شرکت نیز موفق به حل این مسئله شده‌اند.
باک‌مستر این احتمال را مطرح کرد که اطلاعات بارگذاری‌شده از سوی او و همکارش در یکی از ابزارهای اوپن‌ای‌آی ممکن است برای آموزش مدل‌های این شرکت استفاده شده باشد. اوپن‌ای‌آی این ادعا را رد کرد و اعلام کرد بررسی‌هایش نشان داده است پیام‌ها و دستورهای باک‌مستر در دو ماه پیش از اعلام خبر، به هیچ شکلی، از جمله از طریق آموزش مدل، بر عملکرد سامانه تأثیر نگذاشته‌اند. این شرکت همچنین تأکید کرد که پژوهشگران و عامل‌های آن پیش از انتشار عمومی، به آثار باک‌مستر و آلپوگه دسترسی نداشته‌اند.
نمونه دیگر به پژوهش‌های مرتبط با الگوهای تکرارشونده دی‌ان‌ای در برخی ویروس‌ها مربوط می‌شود. آنتروپیک اعلام کرد عامل‌های مبتنی بر مدل زبانی کلود به کشفی درباره شباهت این الگوها با الگوهای مشاهده‌شده در سامانه‌های ویرایش ژن کریسپر رسیده‌اند. پس از انتشار این خبر، ماریو رودریگز مِستره، دانشجوی دکتری زیست‌شناسی محاسباتی در دانشگاه کپنهاگ، گفت چندین سال است این الگوها را بررسی می‌کند و در بسیاری از موارد از کلود کمک گرفته، اما هنوز یافته‌هایش را منتشر نکرده است.
مستره نیز احتمال داد اطلاعات بارگذاری‌شده از سوی گروه پژوهشی او در ابزارهای آنتروپیک ممکن است در داده‌های آموزشی کلود گنجانده شده باشد. آنتروپیک در پاسخ به نیویورک‌تایمز اعلام کرد مدل این شرکت با متن گفت‌وگوهای کاربران آموزش داده نشده است. بنابراین، در هر دو مورد، احتمال استفاده از اطلاعات پژوهشگران مطرح شده، اما شرکت‌های مربوط این ادعاها را رد کرده‌اند.
افزایش احتیاط پژوهشگران در استفاده از ابزارهای هوش مصنوعی
این رویدادها بر شیوه استفاده برخی دانشمندان از هوش مصنوعی تأثیر گذاشته است. ساندرا لورنتینو، متخصص اپی‌ژنتیک تولیدمثل در دانشگاه مونستر آلمان، می‌گوید دیگر به سامانه‌های هوش مصنوعی اعتماد ندارد و استفاده خود از آن‌ها را به بررسی علت خطاهای کدنویسی محدود کرده است. او پیش از وارد کردن اطلاعات نیز نام پارامترها و متغیرها را به برچسب‌های عمومی تغییر می‌دهد تا جزئیات آزمایش‌هایش در اختیار سامانه قرار نگیرد.
لورنتینو درباره تغییر رویکرد خود می‌گوید: «در استفاده از هوش مصنوعی بسیار محتاطم، اما جنجال‌های اخیر باعث شده‌اند حتی بدبین‌تر و محتاط‌تر شوم.»
ساموئل مِر، دانشمند حوزه شناخت شنوایی در دانشگاه اوکلند نیوزیلند، نیز دستورالعملی برای آزمایشگاه خود تدوین کرده است که بر اساس آن، دانشجویان اجازه ندارند اطلاعات حفاظت‌شده را در اختیار مدل‌های زبانی بزرگ تجاری قرار دهند. این دستورالعمل درباره استفاده از چنین مدل‌هایی در مراحل مختلف فرایند پژوهش نیز هشدار می‌دهد.
مر با تأکید بر اهمیت حفاظت از دستاوردهای علمی می‌گوید: «به نظرم سپردن مالکیت فکری خود به اشخاص ثالث، در شرایطی که نمی‌دانید قرار است با آن چه کنند، فوق‌العاده خطرناک است.»
آیا تنظیمات حریم خصوصی برای حفاظت از داده‌ها کافی است؟
بسیاری از مدل‌های زبانی بزرگ امکان غیرفعال کردن استفاده از داده‌های کاربران برای آموزش یا بهبود مدل را فراهم می‌کنند، اما برخی پژوهشگران درباره میزان کفایت این تنظیمات تردید دارند. دیوید کروگر، پژوهشگر هوش مصنوعی، هشدار داده است که حتی انصراف از مشارکت در آموزش مدل یا کنار گذاشتن کامل این سامانه‌ها نیز ممکن است برای حفاظت از اطلاعات دانشمندان کافی نباشد.
اوپن‌ای‌آی اعلام کرده است که غیرفعال کردن گزینه «بهبود مدل برای همه» مانع استفاده از گفت‌وگوهای جدید کاربران برای بهبود مدل‌ها می‌شود. این شرکت همچنین توضیح داده است که با غیرفعال کردن این گزینه در چت‌جی‌پی‌تی، تنظیم مربوط در ابزار کدکس نیز غیرفعال خواهد شد. آنتروپیک به پرسش‌های نیچر درباره تنظیمات انصراف از استفاده از داده‌ها پاسخ نداده است.
مر برای توضیح نگرانی خود به توافق آنتروپیک در سال ۲۰۲۵ اشاره کرده است که بر اساس آن، این شرکت پذیرفت برای حل‌وفصل ادعاهای مربوط به استفاده از کتاب‌های غیرقانونی تکثیرشده در آموزش مدل‌هایش، یک میلیارد و ۵۰۰ میلیون دلار پرداخت کند؛ توافقی که به معنای پذیرش مسئولیت حقوقی از سوی شرکت نبود.
حکمرانی هوشمند؛ ضرورت تدوین قواعد روشن برای هوش مصنوعی
در کنار نگرانی درباره محرمانگی داده‌ها، توانایی روزافزون عامل‌های هوش مصنوعی در حل مسائل علمی نیز پرسش‌هایی درباره آینده پژوهش ایجاد کرده است. جفری ایروینگ، دانشمند ارشد سازمان پژوهشی ایمنی هوش مصنوعی رزولوشن در برکلی کالیفرنیا، معتقد است پژوهشگران ممکن است دستاوردهایشان را از دست بدهند، نه لزوماً به دلیل بارگذاری مقاله‌هایشان، بلکه به دلیل افزایش توانایی هوش مصنوعی در حل مسائل.
ایروینگ با اشاره به رشد توانایی استدلال این سامانه‌ها می‌گوید حتی اگر هوش مصنوعی هرگز به اطلاعات خصوصی پژوهشگران دسترسی پیدا نکند، حجم گسترده دانش تولیدشده توسط دانشمندان می‌تواند به این سامانه‌ها امکان دهد در موارد متعددی زودتر به پاسخ برسند.
با این حال، همه متخصصان چنین تحولاتی را به معنای حذف نقش دانشمندان نمی‌دانند. سارا هوکر، پژوهشگر هوش مصنوعی و از بنیان‌گذاران شرکت اَداپشن، معتقد است هوش مصنوعی شیوه کار دانشمندان را به‌طور اساسی تغییر خواهد داد، اما آن‌ها را از میدان خارج نمی‌کند. به گفته او، عامل‌های هوش مصنوعی هنوز در طرح پرسش‌هایی که برای پیشبرد اکتشافات علمی ضروری‌اند، عملکرد چندان خوبی ندارند و نقش دانشمندان در شکل دادن به فرضیه‌های ارزشمند همچنان حیاتی است.
هوکر تأکید می‌کند عامل‌های هوش مصنوعی می‌توانند سرعت رسیدن پژوهشگران به پاسخ را به‌طور چشمگیری افزایش دهند، اما این فرایند پس از طرح پرسش از سوی انسان آغاز می‌شود.
مجموع این تحولات نشان می‌دهد توسعه حکمرانی هوشمند در حوزه هوش مصنوعی به سیاست‌هایی روشن برای حفاظت از اطلاعات محرمانه، صیانت از مالکیت فکری، شفافیت در نحوه استفاده از داده‌ها و تعیین مسئولیت شرکت‌های فناوری نیاز دارد. در کنار بهره‌گیری از ظرفیت‌های علمی هوش مصنوعی، ایجاد سازوکارهای قابل اعتماد برای نظارت و پاسخ‌گویی می‌تواند به حفظ اعتماد پژوهشگران و استفاده مسئولانه از این فناوری کمک کند.
انتهای پیام
