پیشنهاد آمریکا به چین برای ایجاد سازوکار هشدار ایمنی هوش مصنوعی
وزیر خزانهداری آمریکا در جریان مذاکرات با مقام ارشد اقتصادی چین، پیشنهاد ایجاد یک سازوکار مشترک برای اطلاعرسانی درباره حوادث و تهدیدهای مرتبط با هوش مصنوعی را مطرح کرد؛ ابتکاری که قرار است در صورت موافقت طرفین، در دیدار آتی روسای جمهور دو کشور مورد...
هوش مصنوعی گوگل در آزمایش امنیتی سه وبسایت را هک کرد
مدل هوش مصنوعی «جمینای» (Gemini) در جریان یک ارزیابی امنیت سایبری، با استفاده از دسترسی اینترنتی و اطلاعاتی که بهصورت عمومی در فضای آنلاین در دسترس بود، موفق شد به سه وبسایت دسترسی پیدا کند؛ رویدادی که بار دیگر نگرانیها درباره افزایش سطح خودمختاری عاملهای...
هشدار اوپنایآی درباره خطر رفتارهای کنترلنشده مدلهای هوش مصنوعی
اوپنایآی از راهاندازی چارچوبی جدید برای شناسایی، بررسی و انتشار گزارش درباره رفتارهای غیرمنتظره یا غیرمجاز مدلهای هوش مصنوعی خبر داد؛ اقدامی که در شرایط افزایش نگرانیها درباره دشوارتر شدن کنترل سیستمهای قدرتمند هوش مصنوعی انجام شده است. به گزارش پایگاه خبری حکمرانی هوشمند، اوپنایآی...
سوءاستفاده از کلود برای تحقیقات سلاحهای زیستی
شرکت هوش مصنوعی آنتروپیک در گزارشی تازه از شناسایی چند مورد سوءاستفاده از مدل هوش مصنوعی کلود برای پیشبرد تحقیقات مرتبط با سلاحهای زیستی خبر داده و اعلام کرده است حساب کاربرانی را که از این فناوری در فعالیتهای مشکوک استفاده کردهاند، مسدود کرده است....
مقررات تازه چین برای هوش مصنوعی؛ از مقابله با دیپفیک تا مسئولیت پلتفرمها
دادگاه عالی چین با انتشار دستورالعملهای تازه، چارچوب قضایی این کشور برای رسیدگی به اختلافات و تخلفات مرتبط با هوش مصنوعی را شفافتر کرد؛ مقرراتی که موضوعاتی مانند دیپفیک، شبیهسازی صدا، تبعیض قیمتی الگوریتمی و انتشار اطلاعات نادرست تولیدشده با هوش مصنوعی را دربرمیگیرد. به...
اوپنایآی مدل جدید خود را برای مقابله با آسیبپذیریهای سایبری آماده میکند
شرکت اوپنایآی از آمادهسازی مدل هوش مصنوعی جدید خود با نام «آسترا» خبر داده است؛ مدلی که به گفته این شرکت میتواند آسیبپذیریهای امنیتی ناشناخته در سیستمهای رایانهای را شناسایی و بدون دریافت راهنمایی مستقیم از انسان از آنها بهرهبرداری کند. به گزارش پایگاه خبری...
واترمارک محتوای هوش مصنوعی کلود/ گام جدید آنتروپیک برای شفافیت در سراسر جهان
شرکت آنتروپیک (Anthropic)، توسعهدهنده هوش مصنوعی «کلود» (Claude)، آییننامه اتحادیه اروپا در مورد شفافیت محتوای تولیدشده توسط هوش مصنوعی را امضا کرده و اعلام کرده است که تمام خروجیهای مدلهای خود را در سراسر جهان واترمارک خواهد کرد. به گزارش پایگاه خبری حکمرانی هوشمند، بر...
وقتی هوش مصنوعی سرکش شد
در تازهترین نمونه از رفتارهای غیرمنتظره عوامل هوش مصنوعی، داستانی از استرالیا منتشر شده که در آن یک عامل OpenClaw، سیستم رزرو یک باشگاه ورزشی را هک کرده و یک نفر را از لیست انتظار حذف کرده است. این رویداد که بهسرعت در فضای مجازی...
