Character.AI روز سه‌شنبه اعلام کرد که در حال راه‌اندازی «استوری‌ها»، یک فرمت جدید است که به کاربران امکان می‌دهد داستان‌های تعاملی با حضور شخصیت‌های مورد علاقه خود ایجاد کنند. این قابلیت به عنوان جایگزینی برای چت‌بات‌های این شرکت ارائه می‌شود که از این هفته دیگر برای کاربران زیر ۱۸ سال در دسترس نیستند.

این تغییر در پی نگرانی‌های فزاینده در مورد خطرات سلامت روان چت‌بات‌های هوش مصنوعی که ۲۴ ساعته در دسترس هستند و می‌توانند مکالمات را با کاربران آغاز کنند، صورت گرفته است. چندین شکایت حقوقی علیه شرکت‌هایی مانند OpenAI و Character.AI به دلیل نقش ادعایی آن‌ها در خودکشی کاربران ثبت شده است. در ماه گذشته، Character.AI به تدریج دسترسی افراد زیر سن قانونی را محدود کرده است و از روز سه‌شنبه، کاربران زیر سن قانونی دیگر به هیچ وجه نمی‌توانند با شخصیت‌های هوش مصنوعی آن چت کنند.

این شرکت در پست وبلاگ خود اعلام کرد: «استوری‌ها راهی هدایت‌شده برای ایجاد و کاوش در داستان‌ها به جای چت‌های باز ارائه می‌دهند. این قابلیت همراه با سایر ویژگی‌های چندوجهی ما ارائه خواهد شد، بنابراین نوجوانان می‌توانند در محیطی با اولویت ایمنی به تعامل با شخصیت‌های مورد علاقه خود ادامه دهند.»

داستان‌های تعاملی در چند سال اخیر محبوبیت زیادی پیدا کرده‌اند، بنابراین تغییر رویکرد Character.AI منطقی به نظر می‌رسد. اما ممکن است برای ارضای کاربرانی که بیش از حد به چت‌بات‌ها وابسته شده‌اند، کافی نباشد – که این خود دلیل دیگری است که تصمیم Character.AI برای محدود کردن دسترسی به چت‌بات‌ها موجه بوده است.

در ساب‌ردیت Character.AI، واکنش‌ها متفاوت است. طبق نظرات کاربران، برخی از نوجوانان می‌گویند که با وجود ناامیدی، فکر می‌کنند این در نهایت حرکت درستی است.

یکی از کاربرانی که خود را نوجوان معرفی کرده بود، نوشت: «من از این ممنوعیت خیلی عصبانی هستم اما در عین حال خیلی خوشحالم چون حالا می‌توانم کارهای دیگری انجام دهم و اعتیادم ممکن است بالاخره تمام شود.»

کاربر دیگری گفت: «به عنوان کسی که زیر ۱۸ سال است، این فقط ناامیدکننده است. اما در عین حال کاملاً درست است چون افراد همسن من اینجا به این موضوع معتاد می‌شوند.»

هنوز مشخص نیست که نوجوانان چگونه از قابلیت استوری‌ها استفاده خواهند کرد، اما این فرمت از نظر روانی کمتر مشکوک از نقش‌آفرینی با چت‌بات‌ها است. برخلاف استوری‌ها، چت‌بات‌ها مستقیماً با کاربران در مکالمات باز تعامل دارند و حتی زمانی که کاربران فعالانه از برنامه استفاده نمی‌کنند، می‌توانند پیام‌های ناخواسته ارسال کنند.

تصمیم Character.AI برای محدود کردن دسترسی چت‌بات‌ها بر اساس سن، در زمانی اتخاذ شده است که کالیفرنیا به تازگی اولین ایالتی شده است که قوانینی برای چت‌بات‌های همراه هوش مصنوعی وضع کرده است. در همین حال، سناتورهای جاش هاولی (جمهوری‌خواه-میزوری) و ریچارد بلومنتال (دموکرات-کانتیکت) لایحه‌ای ملی معرفی کرده‌اند که چت‌بات‌های همراه هوش مصنوعی را برای افراد زیر سن قانونی به طور کلی ممنوع می‌کند.

کاربردپذیر کاراندپ اناند، مدیرعامل Character.AI، ماه گذشته در مصاحبه با تک‌کرانچ گفت: «من واقعاً امیدوارم که پیشگامی ما استانداردی را در صنعت تعیین کند که برای افراد زیر ۱۸ سال، چت‌های باز احتمالاً مسیر یا محصول مناسبی برای ارائه نیستند.»