هند به ایکس (X) متعلق به ایلان ماسک دستور داده است تا تغییرات فنی و رویه‌ای فوری در چت‌بات هوش مصنوعی خود، گروک (Grok)، ایجاد کند. این دستور پس از آن صادر شد که کاربران و قانون‌گذاران نسبت به تولید محتوای «غیراخلاقی»، از جمله تصاویر دستکاری شده با هوش مصنوعی از زنان با استفاده از این ابزار، هشدار دادند.

روز جمعه، وزارت فناوری اطلاعات هند دستوری صادر کرد که به ایکس (X) ماسک دستور می‌داد اقدامات اصلاحی در مورد گروک (Grok) انجام دهد، از جمله محدود کردن تولید محتوایی که شامل «برهنگی، تمایلات جنسی، صریح جنسی، یا در غیر این صورت غیرقانونی» باشد. این وزارتخانه همچنین به پلتفرم رسانه اجتماعی ۷۲ ساعت فرصت داد تا گزارشی از اقدامات انجام شده را ارائه دهد که جزئیات گام‌هایی را که برای جلوگیری از میزبانی یا انتشار محتوای «غیراخلاقی، پورنوگرافیک، مبتذل، نامناسب، صریح جنسی، پدوفیلیک، یا در غیر این صورت ممنوع طبق قانون» برداشته است، شرح دهد.

این دستور که توسط تک‌کرانچ (TechCrunch) بررسی شد، هشدار داد که عدم رعایت آن می‌تواند حفاظت «بندر امن» (safe harbor) ایکس (X) را به خطر بیندازد – یعنی مصونیت قانونی از مسئولیت محتوای تولید شده توسط کاربر تحت قانون هند.

اقدام هند به دنبال نگرانی‌هایی است که توسط کاربرانی مطرح شد که نمونه‌هایی از گروک (Grok) را به اشتراک گذاشتند که در آن از آن خواسته شده بود تصاویر افراد – عمدتاً زنان – را طوری تغییر دهد که گویی بیکینی پوشیده‌اند، که منجر به یک شکایت رسمی از سوی پریانکا چاتورودی (Priyanka Chaturvedi)، نماینده پارلمان هند شد. به طور جداگانه، گزارش‌های اخیر مواردی را برجسته کردند که در آن چت‌بات هوش مصنوعی تصاویر جنسی از افراد زیر سن قانونی تولید کرده بود، مسئله‌ای که ایکس (X) روز جمعه در توییت خود اذعان کرد که ناشی از نقص در حفاظ‌ها بوده است. آن تصاویر بعداً حذف شدند.

با این حال، تک‌کرانچ (TechCrunch) در زمان انتشار دریافت که تصاویری که با استفاده از گروک (Grok) تولید شده و زنان را از طریق دستکاری هوش مصنوعی در حال پوشیدن بیکینی نشان می‌داد، همچنان در ایکس (X) قابل دسترسی بودند.

این آخرین دستور چند روز پس از آن صادر شد که وزارت فناوری اطلاعات هند روز دوشنبه یک توصیه گسترده‌تر، که توسط تک‌کرانچ (TechCrunch) نیز بررسی شد، به پلتفرم‌های رسانه‌های اجتماعی صادر کرد و به آنها یادآوری کرد که رعایت قوانین محلی حاکم بر محتوای غیراخلاقی و صریح جنسی، پیش‌شرط حفظ مصونیت قانونی از مسئولیت محتوای تولید شده توسط کاربر است. این توصیه از شرکت‌ها خواست تا حفاظ‌های داخلی خود را تقویت کنند و هشدار داد که عدم انجام این کار می‌تواند منجر به اقدامات قانونی تحت قوانین فناوری اطلاعات و کیفری هند شود.

این دستور هشدار داد: «تأکید می‌شود که عدم رعایت الزامات فوق به طور جدی تلقی خواهد شد و ممکن است بدون هیچ اخطار دیگری، منجر به عواقب قانونی سختگیرانه‌ای علیه پلتفرم شما، افسران مسئول آن و کاربرانی شود که در پلتفرم قانون را نقض می‌کنند.»

دولت هند اعلام کرد که عدم انطباق می‌تواند منجر به اقدام علیه ایکس (X) تحت قانون فناوری اطلاعات و قوانین کیفری هند شود.

هند، به عنوان یکی از بزرگترین بازارهای دیجیتال جهان، به یک مورد آزمایشی حیاتی برای سنجش میزان تمایل دولت‌ها به مسئول دانستن پلتفرم‌ها برای محتوای تولید شده توسط هوش مصنوعی تبدیل شده است. هرگونه تشدید اجرای قانون در این کشور می‌تواند تأثیرات موجی برای شرکت‌های فناوری جهانی که در حوزه‌های قضایی متعدد فعالیت می‌کنند، داشته باشد.

این دستور در حالی صادر می‌شود که ایکس (X) ماسک به چالش کشیدن جنبه‌هایی از قوانین مقررات محتوای هند در دادگاه ادامه می‌دهد و استدلال می‌کند که اختیارات دولت فدرال برای حذف محتوا خطر تجاوز از حدود را دارد، حتی در حالی که پلتفرم با اکثریت دستورات مسدودسازی مطابقت داشته است. در عین حال، گروک (Grok) به طور فزاینده‌ای توسط کاربران ایکس (X) برای راستی‌آزمایی در لحظه و اظهار نظر در مورد رویدادهای خبری استفاده می‌شود، که خروجی‌های آن را قابل مشاهده‌تر – و از نظر سیاسی حساس‌تر – از ابزارهای هوش مصنوعی مستقل می‌کند.

ایکس (X) و ایکس‌ای‌آی (xAI) بلافاصله به درخواست‌ها برای اظهار نظر در مورد دستور دولت هند پاسخ ندادند.