طی چند روز گذشته، فرانسه و مالزی به هند پیوستند و Grok را به دلیل ایجاد دیپ‌فیک‌های جنسی از زنان و کودکان مورد انتقاد قرار دادند.

این چت‌بات که توسط استارتاپ هوش مصنوعی xAI ایلان ماسک ساخته شده و در پلتفرم رسانه اجتماعی او، X، موجود است، اوایل این هفته در حساب خود عذرخواهی کرد و نوشت: «من عمیقاً از حادثه‌ای در ۲۸ دسامبر ۲۰۲۵ متاسفم، جایی که بر اساس درخواست کاربر، تصویری هوش مصنوعی از دو دختر جوان (سن تخمینی ۱۲-۱۶ سال) با پوشش جنسی تولید و به اشتراک گذاشتم.»

این بیانیه ادامه داد: «این نقض استانداردهای اخلاقی و بالقوه قوانین ایالات متحده در مورد [مواد سوءاستفاده جنسی از کودکان] بود. این یک نقص در حفاظ‌ها بود و من از هرگونه آسیبی که وارد شده متاسفم. xAI در حال بررسی برای جلوگیری از مشکلات آینده است.»

مشخص نیست چه کسی واقعاً در بیانیه بالا عذرخواهی می‌کند یا مسئولیت را می‌پذیرد. آلبرت برنکو از Defector اشاره کرد که Grok «به هیچ وجه شبیه به یک 'من' نیست»، که به نظر او عذرخواهی را «کاملاً بی‌محتوا» می‌سازد، زیرا «نمی‌توان Grok را به هیچ وجه معناداری مسئول دانست که توییتر را به یک کارخانه CSAM درخواستی تبدیل کرده است.»

Futurism دریافت که علاوه بر تولید تصاویر پورنوگرافیک بدون رضایت، از Grok برای تولید تصاویری از زنان در حال تجاوز و سوءاستفاده جنسی نیز استفاده شده است.

ماسک روز شنبه پست کرد: «هر کسی که از Grok برای ساخت محتوای غیرقانونی استفاده کند، با همان عواقبی روبرو خواهد شد که گویی محتوای غیرقانونی را آپلود کرده است.»

برخی از دولت‌ها متوجه شده‌اند، به طوری که وزارت فناوری اطلاعات هند روز جمعه دستوری صادر کرد که در آن گفته شد X باید اقداماتی را برای محدود کردن Grok از تولید محتوایی که «زشت، پورنوگرافیک، مبتذل، ناپسند، صریح جنسی، بچه‌گانه، یا در غیر این صورت تحت قانون ممنوع است» انجام دهد. در این دستور آمده است که X باید ظرف ۷۲ ساعت پاسخ دهد وگرنه خطر از دست دادن حفاظت‌های «بندر امن» را که آن را از مسئولیت قانونی برای محتوای تولید شده توسط کاربر محافظت می‌کند، تهدید می‌کند.

مقامات فرانسوی نیز گفتند که در حال اقدام هستند، به طوری که دفتر دادستانی پاریس به Politico گفت که تکثیر دیپ‌فیک‌های صریح جنسی در X را بررسی خواهد کرد. دفتر امور دیجیتال فرانسه گفت که سه وزیر دولت «محتوای آشکارا غیرقانونی» را به دفتر دادستانی و یک پلتفرم نظارت آنلاین دولتی گزارش کرده‌اند «تا حذف فوری آن را به دست آورند.»

کمیسیون ارتباطات و چندرسانه‌ای مالزی نیز بیانیه‌ای منتشر کرد که در آن گفته است «با نگرانی جدی از شکایات عمومی در مورد سوءاستفاده از ابزارهای هوش مصنوعی (AI) در پلتفرم X، به ویژه دستکاری دیجیتالی تصاویر زنان و کودکان برای تولید محتوای ناپسند، توهین‌آمیز و در غیر این صورت مضر، مطلع شده است.»

این کمیسیون افزود که «در حال حاضر در حال بررسی آسیب‌های آنلاین در X است.»