مالزی و اندونزی نخستین کشورهایی هستند که دسترسی به چتبات هوش مصنوعی Grok، ساخته شده توسط شرکت xAI متعلق به ایلان ماسک، را مسدود کردند. مقامات این دو کشور اعلام کردند که این ابزار به طور گسترده برای تولید تصاویر جنسی صریح و بدون رضایت افراد مورد سوءاستفاده قرار گرفته است.
این اقدام همزمان با آغاز بررسیهای نهاد نظارتی رسانهای بریتانیا (Ofcom) انجام شده است تا مشخص شود آیا این پلتفرم قوانین بریتانیا را نقض کرده است یا خیر.
نگرانیهای جهانی درباره ابزارهای هوش مصنوعی مولد که قادر به تولید تصاویر، صدا و متن واقعگرایانه هستند افزایش یافته است. اتحادیه اروپا، هند و فرانسه نیز نگرانیهای خود را نسبت به این پلتفرم ابراز کردهاند.
چتبات Grok که از طریق شبکه اجتماعی X قابل دسترسی است، به دلیل تولید تصاویر دستکاری شده از جمله زنانی در لباسهای شنا یا موقعیتهای جنسی صریح و همچنین تصاویری شامل کودکان مورد انتقاد قرار گرفته است.
مقامات مالزی و اندونزی اعلام کردند کنترلهای موجود نتوانستهاند از انتشار محتوای پورنوگرافیک جعلی، به ویژه موارد مرتبط با زنان و خردسالان جلوگیری کنند.
دولت اندونزی روز شنبه دسترسی به Grok را موقتاً مسدود کرد و پس از آن مالزی نیز روز یکشنبه چنین اقدامی انجام داد.
وزیر ارتباطات و امور دیجیتال اندونزی، موتیا هافید، در بیانیهای گفت: «ساخت تصاویر عمیق جنسی بدون رضایت یک نقض جدی حقوق بشر، کرامت انسانی و امنیت شهروندان در فضای دیجیتال است.»
این وزارتخانه هدف از این اقدام را محافظت از زنان، کودکان و جامعه در برابر محتوای پورنوگرافیک جعلی تولید شده توسط هوش مصنوعی اعلام کرد.
الکساندر سبار، مدیرکل نظارت بر فضای دیجیتال اندونزی نیز افزود: «بررسیهای اولیه نشان میدهد Grok فاقد سازوکارهای مؤثر برای جلوگیری از ساخت و توزیع محتوای پورنوگرافیک مبتنی بر عکسهای واقعی شهروندان است.» وی هشدار داد که چنین اقداماتی میتواند حریم خصوصی افراد را نقض کرده و آسیب روانی، اجتماعی و حیثیتی ایجاد کند.
در کوالالامپور، کمیسیون ارتباطات و چندرسانهای مالزی نیز پس از گزارش سوءاستفاده مکرر کاربران از این ابزار برای تولید تصاویر مستهجن، محدودیت موقت بر روی Grok اعمال کرد.
این نهاد نظارتی اعلام کرد پاسخهای دریافت شده از سوی شرکت X Corp. و xAI عمدتاً بر مکانیزم گزارشدهی کاربران متکی بوده است که ناکافی ارزیابی شدهاند.
کمیسیون مالزی تأکید کرد محدودیت اعمال شده اقدامی پیشگیرانه و متناسب بوده که تا زمان اجرای تدابیر حفاظتی مؤثر ادامه خواهد داشت.
نهاد تنظیم مقررات رسانهای بریتانیا (Ofcom) نیز تایید کرد تحقیقاتی را درباره احتمال نقض وظایف مراقبتی پلتفرم X جهت حفاظت از کاربران بریتانیایی در برابر محتوای غیرقانونی آغاز کرده است.
Ofcom اظهار داشت گزارشهایی نگرانکننده درباره استفاده از حساب کاربری چتبات Grok برای ساخت و اشتراکگذاری تصاویر برهنه افراد بدون رضایت آنها وجود دارد که ممکن است مصداق سوءاستفاده از تصاویر شخصی یا پورنوگرافی باشد. همچنین تصاویری جنسیشده از کودکان که ممکن است مصداق محتوای سوءاستفاده جنسی کودکانه باشد نیز مشاهده شده است.
اگر تخلف اثبات شود Ofcom میتواند شرکت X را ملزم به اصلاح اقدامات خود کند یا جریمهای تا ۱۰ درصد درآمد جهانی آن وضع نماید.
X در واکنش گفته است علیه محتوای غیرقانونی مانند سوءاستفاده جنسی از کودکان اقدام میکند؛ شامل حذف محتوا، تعلیق دائمی حسابها و همکاری با دولتها و نیروهای انتظامی. همچنین هر کاربری که با Grok محتوای غیرقانونی بسازد یا درخواست دهد مشمول همین مجازاتها خواهد شد.
Grok که در سال ۲۰۲۳ راهاندازی شد رایگان بوده و کاربران میتوانند سوالات خود را در شبکه اجتماعی X مطرح کنند یا پستها را تگ کنند. تابستان گذشته قابلیت تولید تصویر با نام Grok Imagine اضافه شد که حالت “spicy mode” آن امکان ساخت محتوای بزرگسالانه را فراهم میکند.
پس از موج انتقادها درباره تولید تصاویر عمیق جنسیشده توسط این ربات هوش مصنوعی، هفته گذشته محدودیتهایی برای استفاده از قابلیت تصویرسازی فقط برای کاربران پرداختکننده اعمال شد اما منتقدان معتقدند مشکل کاملاً رفع نشده است.
