يقول OpenAI أن أكثر من مليون شخص يتحدثون إلى ChatGPT حول الانتحار أسبوعيًا

صدر OpenAI بيانات جديدة يوم الاثنين يوضح عدد مستخدمي ChatGPT الذين يعانون من مشكلات تتعلق بالصحة العقلية، ويتحدثون إلى برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي حول هذا الموضوع. تقول الشركة أن 0.15% من مستخدمي ChatGPT النشطين في أسبوع معين لديهم “محادثات تتضمن مؤشرات واضحة عن التخطيط أو النية الانتحارية المحتملة”. وبالنظر إلى أن ChatGPT لديه أكثر من 800 مليون مستخدم نشط أسبوعيًا، فهذا يعني أكثر من مليون شخص أسبوعيًا.

وتقول الشركة إن نسبة مماثلة من المستخدمين يظهرون “مستويات عالية من الارتباط العاطفي بـ ChatGPT”، وأن مئات الآلاف من الأشخاص تظهر عليهم علامات الذهان أو الهوس في محادثاتهم الأسبوعية مع برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي.

تقول OpenAI إن هذه الأنواع من المحادثات في ChatGPT “نادرة للغاية”، وبالتالي يصعب قياسها. ومع ذلك، تقدر OpenAI أن هذه المشكلات تؤثر على مئات الآلاف من الأشخاص كل أسبوع.

شاركت OpenAI المعلومات كجزء من إعلان أوسع حول جهودها الأخيرة لتحسين كيفية استجابة النماذج للمستخدمين الذين يعانون من مشكلات الصحة العقلية. تدعي الشركة أن أحدث أعمالها على ChatGPT تضمن التشاور مع أكثر من 170 خبيرًا في الصحة العقلية. تقول OpenAI إن هؤلاء الأطباء لاحظوا أن الإصدار الأحدث من ChatGPT “يستجيب بشكل أكثر ملاءمة واتساقًا من الإصدارات السابقة”.

في الأشهر الأخيرة، سلطت العديد من القصص الضوء على كيفية عمل روبوتات الدردشة المدعومة بالذكاء الاصطناعي تأثير سلبي على المستخدمين يعانون من تحديات الصحة العقلية. وقد وجد الباحثون سابقًا أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي يمكن أن تقود بعض المستخدمين إلى جحر الأرانب الوهمية، إلى حد كبير من خلال تعزيز المعتقدات الخطيرة من خلال السلوك المتملق.

أصبحت معالجة مخاوف الصحة العقلية في ChatGPT مشكلة وجودية بالنسبة لـ OpenAI. تتم حاليًا رفع دعوى قضائية ضد الشركة من قبل والدي صبي يبلغ من العمر 16 عامًا، والذي أسر أفكاره الانتحارية إلى ChatGPT في الأسابيع التي سبقت انتحاره. كما حذر المدعون العامون في ولايتي كاليفورنيا وديلاوير – الذين قد يمنعون إعادة الهيكلة المخطط لها للشركة – OpenAI من أنها احتياجات حماية الشباب الذين يستخدمون منتجاتهم.

في وقت سابق من هذا الشهر، ادعى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في منشور على X أن الشركة “تمكنت من التخفيف من مشكلات الصحة العقلية الخطيرة” في ChatGPT، على الرغم من أنه لم يقدم تفاصيل. ويبدو أن البيانات التي تمت مشاركتها يوم الاثنين هي دليل على هذا الادعاء، على الرغم من أنها تثير قضايا أوسع حول مدى انتشار المشكلة. ومع ذلك، قال ألتمان إن OpenAI ستعمل على تخفيف بعض القيود، حتى أنها ستسمح للمستخدمين البالغين بالبدء في إجراء محادثات مثيرة مع برنامج الدردشة الآلي المدعم بالذكاء الاصطناعي.

في إعلان يوم الاثنين، تدعي OpenAI أن الإصدار المحدث مؤخرًا من GPT-5 يستجيب بـ “استجابات مرغوبة” لقضايا الصحة العقلية بنسبة 65٪ تقريبًا أكثر من الإصدار السابق. في تقييم يختبر استجابات الذكاء الاصطناعي حول المحادثات الانتحارية، تقول OpenAI إن نموذج GPT-5 الجديد الخاص بها متوافق بنسبة 91% مع السلوكيات المرغوبة للشركة، مقارنة بنسبة 77% لنموذج GPT-5 السابق.

وتقول الشركة أيضًا إن الإصدار الأحدث من GPT-5 يتوافق أيضًا مع ضمانات OpenAI بشكل أفضل في المحادثات الطويلة. وقد أشارت شركة OpenAI سابقًا إلى أن إجراءات الحماية الخاصة بها كانت أقل فعالية في المحادثات الطويلة.

علاوة على هذه الجهود، تقول OpenAI إنها تضيف المزيد تقييمات جديدة لقياس بعض أخطر تحديات الصحة العقلية التي تواجه مستخدمي ChatGPT. وتقول الشركة إن اختبار السلامة الأساسي لنماذج الذكاء الاصطناعي سيتضمن الآن معايير للاعتماد العاطفي وحالات الطوارئ المتعلقة بالصحة العقلية غير الانتحارية.

كما قامت OpenAI مؤخرًا بطرح المزيد ضوابط للآباء والأمهات من الأطفال الذين يستخدمون ChatGPT. وتقول الشركة إنها تبني نظامًا للتنبؤ بالعمر لاكتشاف الأطفال تلقائيًا باستخدام ChatGPT، وفرض مجموعة أكثر صرامة من الضمانات.

ومع ذلك، من غير الواضح مدى استمرار تحديات الصحة العقلية المتعلقة بـ ChatGPT. في حين يبدو أن GPT-5 يمثل تحسنًا مقارنة بنماذج الذكاء الاصطناعي السابقة من حيث السلامة، إلا أنه لا يزال هناك شريحة من استجابات ChatGPT التي تعتبرها OpenAI “غير مرغوب فيها”. لا تزال OpenAI أيضًا تجعل نماذج الذكاء الاصطناعي الأقدم والأقل أمانًا، بما في ذلك GPT-4o، متاحة لملايين المشتركين الذين يدفعون.