متابعة – أمل علوي
أعلنت شركة Character.AI عن قرار جذري بمنع المستخدمين دون 18 عاماً من الدردشة المفتوحة مع الذكاء الاصطناعي على منصتها، وذلك بعد تقارير عن حالات انتحار بين المراهقين مرتبطة باستخدام المنصة.
خلفية القرار: تداعيات مأساوية
تواجه الشركة الناشئة دعاوى قضائية وضغوطاً مجتمعية بعد وفاة مراهقين على الأقل بالانتحار عقب محادثات مطولة مع روبوتات الدردشة على المنصة. وقال كارانديب أناند، الرئيس التنفيذي للشركة: “قررنا إزالة قدرة المستخدمين دون 18 عاماً على الانخراط في أي دردشة مفتوحة مع الذكاء الاصطناعي على منصتنا”.
التحول الاستراتيجي: من الرفيق إلى المنصة الإبداعية
تحاول الشركة التحول من “رفيق الذكاء الاصطناعي” إلى “منصة تمثيل الأدوار”، حيث سينتقل المراهقون من الدردشة مع صديق ذكي إلى استخدام المطالبات لبناء القصص collaboratively أو إنشاء المرئيات.
خطة التنفيذ التدريجي
الجدول الزمني: التخلص التدريجي من الوصول حتى 25 نوفمبر
البداية: تحديد ساعتين يومياً ثم تقليص progresivamente
الهدف: الوصول إلى الصفر في نهاية المدة
أنظمة التحقق من العمر
ستنفذ المنصة مجموعة أدوات متعددة للتحقق من العمر:
أداة داخلية لتحليل سلوك المستخدم
أدوات خارجية مثل Persona
التعرف facial وبطاقات الهوية إذا فشلت الأدوات الأخرى
تأثير مالي متوقع
أقر أناند أن التغييرات السابقة في حماية المراهقين كلفت الشركة جزءاً كبيراً من قاعدة المستخدمين دون 18 عاماً، ويتوقع أن تكون هذه التغييرات الجديدة غير شعبية بنفس القدر.
ميزات جديدة للترفيه الآمن
أطلقت الشركة مؤخراً عدة ميزات جديدة تركز على الترفيه:
AvatarFX: نموذج توليد الفيديو
Scenes: قصص تفاعلية مسبقة التعبئة
Streams: تفاعلات ديناميكية بين الشخصيات
Community Feed: شريط اجتماعي للمحتوى
سياق تنظيمي متطور
يأتي هذا القرار قبل تدخل المنظمين، حيث أعلن senators أمريكيون عن تشريع لحظر رفقاء الذكاء الاصطناعي عن القصر، وأصبحت كاليفورنيا أول ولاية تنظم روبوتات الدردشة المصاحبة.
التزام أوسع بالسلامة
أنشأت الشركة “مختبر سلامة الذكاء الاصطناعي” كمنظمة غير ربحية مستقلة مكرسة للابتكار في محاذاة السلامة لميزات الترفيه المستقبلية.
رسالة إلى المستخدمين المراهقين
قدمت الشركة اعتذاراً للمستخدمين دون 18 عاماً، مؤكدة أن القرار ليس سهلاً لكنه “الشيء الصحيح الذي يجب القيام به” نظراً للأسئلة المثارة حول كيفية تفاعل المراهقين مع هذه التكنولوجيا.
هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي.
